参数量是 552B ,看起来是重新预训练的模型,benchmark 看起来很棒。
“新一代模型大幅减少了 KV Cache 缓存的大小,与上一代模型相比,对 HBM 的需求减少到 1/4 ,对 SSD 的需求减少到 1/8 。在 Agent 使用场景中,缓存命中的费用往往占比较高,对 KV Cache 的压缩大幅降低了 Agent 类任务的使用成本。”
不知道用了什么黑科技,降价也是因为成本降了。
“我们将会全力支持开源社区进行新模型的推理适配,并尝试通过各种方式扩大部署的范围。如果您有大规模部署的需求且具备相应的资源( 2k 卡 GPU 、有存储集群),欢迎与我们联系。”
帮忙做适配🤣
公众号原文:
https://mp.weixin.qq.com/s/qg0NU3NNUbp1co2PdkAPAg模型开源链接:
https://huggingface.co/deepseek-ai/DeepSeek-V4.1-Flash论文链接:
https://huggingface.co/deepseek-ai/DeepSeek-V4.1-Flash/blob/main/DeepSeek_V41_Tech_Report.pdf
这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。
https://v2ex.ih06.com/t/1241022
V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。
V2EX is a community of developers, designers and creative people.