谷歌的 Gemma 4 怎么样，有必须要本地弄一下吗

4 月 5 日
 wszzh

如题，看到好多文章都在说 Gemma 4 。或许私人 AI 助手，是不是要成为标配了？

4117 次点击
所在节点    Local LLM
19 条回复
herozzm
4 月 5 日
你有显卡吗？
wszzh
4 月 5 日
没有。只有 mac mini
@herozzm
luoyide2010
4 月 5 日
32B 参数的吃内存，小参数的作用有限，可能在翻译，OCR ，归类排序之类的比较实用
zenfsharp
4 月 5 日
没必要，不如云端的强大且方便。两个大参数的大概是去年的水平，小参数的是前年的水平。
wszzh
4 月 5 日
看了一下，感觉没必要尝试了🤦
sickoo
4 月 5 日
OPENROUTER 的 free Qwen3.6 够用了
levn
4 月 5 日
haiku 的水平
letsgogogo
4 月 5 日
@levn +1
skankhunt42
4 月 5 日
必须要的，不然开除你地球籍
joynvda
4 月 5 日
@wszzh 感觉比 qwen3.5:9b 好

本人没 mac, intel lunar lake 内置 gpu ，32g ，gemma4:26b 能跑 18tps
chengtx
4 月 5 日
手机跑了小的本地模型
洗车难题过关了
MrMissBlack
4 月 5 日
@joynvda 兄弟你是安装在 openvino 后端上的吗？我也是 lunarlake ，想试试
Seck
4 月 6 日
需求？
nachr
4 月 7 日
24GB macbook 跑不起来
mingtdlb
4 月 7 日
没有数据安全的需求，还是云比较好

@sickoo #6 感觉 openrouter 很容易 429
takpap
4 月 7 日
@nachr 假的吧 我手机都能跑。。。
azraelrabbit
4 月 7 日
我的 macmini m4 32G 跑 26b 可以, 20-24 token 每秒.

32b 的跑不起来, 内存不够.
longxinglink
4 月 7 日
ollama 有免费 Gemma 4 的还能用，nvidia 的不能调用不知道咋回事
liangyuan1985
4 月 27 日
Qwen3.6-27B 效果还可以。

这是一个专为移动设备优化的页面（即为了让你能够在 Google 搜索结果里秒开这个页面），如果你希望参与 V2EX 社区的讨论，你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://v2ex.ih06.com/t/1203630

V2EX 是创意工作者们的社区，是一个分享自己正在做的有趣事物、交流想法，可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX