本地机器能跑 DeepSeek v4.1flash 或者 Qwen3.8 得多少钱？

千万不要本地部署，3w 买 Claude API 多好。

@duanxianze #9 加 2 个 0 ，三百万都不够？这么贵的？

4 卡 5090 跑 27B NVFP4 ，上下文 256K ，大概可以支撑 15 到 20 和并发请求，偶发卡顿但是还是能用

@connor123 要是原价能买，那够了，但是原价买不到，需要各种加价，就不太够了

strata 真是革了好多人的命还不自知

@wises #35 可以的，学习了。虽然感觉 strata 解决不了楼主的问题，但确实让我学到了。我准备去试试

@coefu 3W 买完第二天就被 ban

@Terry05 那也比本地部署好。可以换 openai 的 api 买。

24G 卡+32G 主存能跑 qwen3.8 flash next IQ2_s 量化。推理速度能到 60TPS 左右，但是模型本身用起来恼火，不知道是不是量化过头了。感觉反应有点神经质...

NVIDIA RTX Spark ，需要权重压缩，有精度损失，记忆表放 ssd

dgx spark ，可以跑 4.0 flash 。 上下文需要缩小一下，github 上有开源项目。之前 3.3w 一台。

可以看看这个帖子 他家的产品推广过

来源：

https://v2ex.com/t/1233345

刚发布的极摩客 EVO-X5Pro,AI MAX+ PRO 495,192G 统一内存,价格 46999,还可以多台级联。

Q4 量化 DeepSeek V4 Flash(284B)和 GLM-5.3-Flash(320B),Qwen3.8 Flash Next

32b 以下 macbook/mini 就能跑
更高的我就不清楚了

strata + 3090 +32G 内存 = 1.1 万，加了 32G 内存可以跑更大模型

qwen3.8 flash-next-iq3_s 60t/s 以上，经常 100 多


要超越 gpt-6.1-sol 的速度似乎并不困难

买不如租啊

50 万。https://mp.weixin.qq.com/s/2bBEX8OSOZ1zNCm4W76pSw

qwen3.8-flash-next 可以看下 AMD 的 AI Max+ 395, 现在有些专用的推理引擎比如说 gufo, halogen, rulith, decode 速度能到 40+。这个机器目前看两万左右，买 128G 的

我感觉可以学习一波
https://lcz.me/tags/7900xtx

可惜我自己的游戏卡是 7900GRE 16G 显存，纠结