本地机器能跑 DeepSeek v4.1flash 或者 Qwen3.8 得多少钱?

1 天前
 cjkcjkcjk
预算三万内,最高不超过五万。
求大佬推荐机器型号和配置 🙏🏻
10931 次点击
所在节点    Local LLM
95 条回复
ntdll
1 天前
上限 5 万,可以放弃了。

非要跑只能是量化模型,量化到流口水的那种。能用,但肯定说不上好用。
ShadowPower
1 天前
https://cyberq.tw/2026/10/18/deepseek-v41-flash-1017-dual-machine-dgx/

有一篇双 dgx 跑 deepseek v4.1 flash 1017 的测试
nexuszjq
1 天前
跑不量化的版本至少得 20 个 w 吧
keshawnvan
1 天前
低预算本地能跑起来速度也满足不了需求的
strobber16
1 天前
50
CyouYamato
1 天前
你这预算只能买 dgx spark 用单台跑最新的 qwen3.8flash nvfp4 量化,ds flash 那建议 10 万以上的预算再考虑
hashtag
1 天前
两个 3090 配 ddr4 ,12 代 u 这种组合怎么样,搞搞 strata 不知道行不行
hugowangnz
1 天前
看看最新的 RTX Spark ?我昨天看影视飓风用这个测试了一下 qwen 一个 125B 的模型,能达到 40tokens/s 的速度,当然具体是几位量化我没看到;价格三万多到四万多吧
ala2008
1 天前
一分钟回复一次?那没意义
oldlamp
1 天前
https://mp.weixin.qq.com/s/L2LcEMOrHCl1qFpWZob08Q

用不同量化规模,可能就配置不一样,如果有的人把量化过度污名化,恐怕也有点儿过分

参考网上的配置,我测试过 5060ti 16G +64G ( 32G*2 ),也能达到 50tokens/s 以上,而且用的是 IQ3S 的,感觉也不算多笨。
oldlamp
1 天前
@wises

带佬真棒,我也是类似的配置,您这个很有参考意义,比很多盲目说「无意义」的真无意义回复强太多了。
ETiV
1 天前
DGX Spark ,现在不到 5 万

https://mia-ai.net/models?for=spark%3A1

单台 DGX Spark 能跑这些模型,DeepSeek 得 2 台

举例的话,可以看这个页面,有 Tok/s 的具体表现
https://mia-ai.net/models/Qwen3.8-Flash-Next-Single-DGX-Spark-TensorFold
louis16s
1 天前
上下文太小,带宽太小都没什么玩的必要
luodan
1 天前
@dododada EPYC 9354 *2
helei
1 天前
10 万左右勉强能用
wwhc
1 天前
三块/四块 3060 12gb 就够跑 Qwen3.8 27B Q5/Q6 200k+上下文了。但你需要能找到支持 3/4 个至少 pci-e x8 的主板
jiayouzl
1 天前
哈哈哈哈哈 3 万 5 万的配置跑这些大模型?你咋想的?
JerningChan
1 天前
@kerwin1874 哈哈哈哈,上个越狱版,不嫌慢,估计一段段的做些小视频也可以啊,哈哈哈哈,先写好小 h 书,再生视频😂
liuyl
1 天前
不是公司出钱就没必要,订阅省钱的多。而且现在新模型出的这么快,买硬件很快跟不上了
moonvstod
1 天前
两台 dgx ,大概 7.5~8 万元,可以跑满血 ds flash 4.1

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://v2ex.ih06.com/t/1250179

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX