本地机器能跑 DeepSeek v4.1flash 或者 Qwen3.8 得多少钱？

试过几次。感觉本地部署就是自己找罪受。

之前测试 H20 跑 Qwen3.8-Flash ，结论： 短输入、短任务、低并发：快。长上下文、多会话并发等待长，体验差

@cjkcjkcjk 少听这些人吹牛逼，我昨天刚给朋友装了台电脑，配置如下，目前花了大概 2 万多，根据这个配置你的五万足够了。

3 万就别想了，加两个 0 差不多。实在要跑，跑个 qwen3.8 27b, 去阿里云租点边角料的抢占式实例，一天 50 来块。跑点黄文，黄土，黄片什么的的也不是不行。如果用来写代码，真不如把 3 万拿去买商业 llm 套餐，能用好几年呢。

@wises #23 你这张 5060 Ti 能干嘛？出来搞笑的吗= =

@cjkcjkcjk 你要用 strata 这样的推理工具，比呆呆的用 ollma.cpp 这些更好点。我当前这个配置大概每秒最少达到 80tokens 稳定，某些情况下能达到 100 多 tokens,按照人的阅读速度每秒超过 60tokens,那就反应不过来了。

另外你要说清楚你有几个人并发， 这个很重要，直接关联到硬件的配置。

另外我让 claude 刚给你评估了下跑你这个精度需要硬件配置，供你参考， 我的是丐板，所以内存加不上去。

@mzotw2babm 你要多看看刚出来的 strata,16G + 大内存可以跑不少东西了。

我的配置给你参考一下：3k 的 8 核 32GB 迷你主机+4k 的魔改 3080 20GB 显卡+600 块钱的外接显卡坞，跑 Qwen3.8 27B 量化模型的速度是 55tok/s

@AIgogo 想多了 ai 硬件被重新定价了

https://github.com/Niko1221/Strata

2080ti 小超频+ 64GB DDR4 3200 12600k 的主机 跑 Swift Q3S 的速度是 60t/s 256kb 上下文

@mzotw2babm @cjkcjkcjk 我自己也有台 itx 机器，跑的东西更多， 仅仅是 48G 笔记本内存，甚至能跑 q3 精度

你要是能跑的话 那些卖 token 的不是得头埋裤裆里面

@wises #27 被你打懵了。你 26 楼的回复，图片中写的正常跑 Q2_K 要 512G 内存+32G 显存。你是说你的 48G 内存+16G 显存就能跑？

@mzotw2babm 是的，我这是 2 台机器，并不是一台。 我自己这台 itx 小机箱/小主板，可以跑 q2, 我嫌弃精度不够，强行升级到 q3 了，内存估计爆了，准备等内存回来卖掉，上最少 96G 或者 128G 上线。

@mzotw2babm 这么说吧，你先去自己跑下 strata 推理引擎，会更新不少知识的，记得让 codex/claude 帮你优化。

想啥呢...你就算部署了，智力程度，吞吐，上下文都非常拉跨

捡垃圾 v100 16g*2 可以跑 gsq 的 27b 了模型 10g 左右

我先说我自己用 M5 Max 128G+1T ，Mac Studio ，应该符合你预算内。
（ M5 Ultra 96G ，也能跑，但是能跑大模型的范围缩小到 70B 以下）

DeepSeek v4.1 flash ；
https://huggingface.co/unsloth/DeepSeek-V4.1-Flash-1017-GGUF
昨晚查过，我不清楚能不能跑（ AI 说可以尝试，因为有部份可以在 SSD 按需读取），
但是再了解好像速度不高，我觉得下了意义不大

Nvidia 大模型
https://lmstudio.ai/models/nvidia/nemotron-3.5-super-vl
像是这个大模型，Bionic 能跑，简单问候就结束了，没有实际应用。

qwen 3.8 27B ，常见主流的大模型。
https://lmstudio.ai/models/qwen/qwen3.8-27b
你说的 qwen 3.8 27B ，稠密模型，我前段时间用来 MCP Blender ，在 M2 Max 64G Mac Studio 跑了几天，做 3D ，可用，但不高。（ 128G 刚入手没有尝试）

————————

没用过的云玩家：
DGX ，64G ，128G ，CUDA 毫无争议的王者，生图生视频，跑模型一切都 OK 。
速度印象中好像单台 DGX 打不过 M5 Max 128G ，输出速率上偏低，但是有些方面各有千秋。
例如 <amp-youtube data-videoid="-BERYtpyTvQ" layout="responsive" width="480" height="270"></amp-youtube>&t=40s

————————

近期的可选 Windows 笔记本，例如 3.8 达不溜，华硕新出的 Windows on ARM ，Nvidia 联合出品，跟 DGX 一样的芯片，但速率严重偏低，如果不喜欢且不看好 Mac ，WinOnARM Nvidia 也不错。

不过初期上市，大量的兼容性也是个问题，所以需要自己留意。

我目前的机器市场价是 8 万左右。rtx pro 5000 48GB + 128GB DDR5 6000

目前的性能是 strata 跑 qwen3.8-flash-next-nvfp4 ，prefill4000 ，decode 130 。256k 上下文能温 5 个会话。

sglang 跑 qwen3.8-27B-nvfp4 ，256k 上下文，4 并发，配合 Hicache 能热 3~4 个会话。单路 decode 120 ，prefill 5500 到 3000 。

qwen3.8 的哪个模型？ 27b 的话，最便宜的方案应该是 170hx ，解锁的 64G ，现在涨价了，2W ，配个垃圾的 U ，16G 内存，差不多 2.5W 搞定，开 MTP 应该能达到 60 多 TPS ，够一两个人一起用爽了；不过这卡没有 NV 的质保，差不多价格的话，上 4090 ，现在快 3W 了，应该能刚好达到 3W 以内的要求，不过只能上 fp4 量化的版本。

3.8 flash 的话,用 fp4 量化也能上，也是一张卡。

如果要上 ds v4.1 的话，七百多 B 的参数量，其实已经不能算 flash 这一档的模型了，五百多 G 的显存，如果都用显存跑的话，基本得八卡才行。不过看场景，如果只是要部署对 tps 没有要求，用内存甚至 SSD 跑的方案会便宜很多；不过基本是没法用；其实这种更推荐上 ds v4 flash 或者 glm 5.3 flash ，不知道 m3.1 flash 多大，部署这些模型反而更划算。