64g 的 mac 真的有能跑能用的 ai 本地大模型么

9 月 1 日
 followadc
64g 的 mac 真的有能跑能用的 ai 本地大模型么,Qwen3.8-27B-8bit 都费劲
2865 次点击
所在节点    Mac mini
19 条回复
Wxh16144
9 月 1 日
我的 m4 pro mac mini 同内存，反正是跑不了.. 折腾一圈还是 ds 香
rockddd
9 月 1 日
看用来做什么，编码不行.但是可以跑解禁大模型，例如猎奇了一下如何制作 C4...
foryou2023
9 月 1 日
不能干活，聊天可以。
x86
9 月 1 日
🙅‍♂️不利于涨价卖设备的帖子不要发🐶
NG6
9 月 1 日
我也挺好奇的，真的有人专门买几十 GB 的 Mac 跑本地大模型么，这个级别的内存能跑动的 AI 智力都挺底下的吧，远不如便宜的厂商直供 API
miniliuke
9 月 1 日
@x86 关键 16g 、24g 、32g 的也大幅涨价，搞不懂，低智模型(不能主力写代码的)的 API 比矿泉水还便宜，真的有那么多人需要吗？
BretTaylor
9 月 1 日
主要本地搭建一些无审查的模型。
idcidc
9 月 1 日
只是你刚好有 而且要求不高 可以玩玩 特地去买没必要 还不如用 api 一台机器的钱能用好几年的 api 呢
Cruzz
9 月 1 日
可以猎奇。问点在线模型不能问的。前两天在 x 上看不有个姑娘做个赛博调教工具么。
Sezxy
9 月 1 日
也就跑跑 8B 的小模型用来梵音
Sezxy
9 月 1 日
梵音 =》 翻译
keyu1103
9 月 1 日
64g 挺尴尬的 能用的模型跑不起来，小模型又没必要
qweruiop
9 月 1 日
只能聊天，不能干活，那个 context length 太小了，感觉吹能干活的都是收了广子的。。。
Hilong
9 月 1 日
干不了活。但是一些分类的事情还是能跑。我本地跑了个 2B 的小模型，用来给我的账单做分类打标。速度很快
dushixiang
9 月 1 日
跑不动，我的建议是等
kuhung
9 月 1 日
性价比一般，只能跑垂直模型。不如直接用官方 API ，本地模型一般只适合大企业出于安全和微调考虑，或者极客玩玩罢了。
AllenZ0
9 月 16 日
mac 不适合 本地 AI
yexiaoqi
9 月 24 日
那些吹的能跑的本地模型是怎么做的？
followadc
9 月 24 日
@yexiaoqi #18 不清楚 可能我设置不好,

这是一个专为移动设备优化的页面（即为了让你能够在 Google 搜索结果里秒开这个页面），如果你希望参与 V2EX 社区的讨论，你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://v2ex.ih06.com/t/1238553

V2EX 是创意工作者们的社区，是一个分享自己正在做的有趣事物、交流想法，可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX