需要大概 500 亿 token,现在用什么方案比较好?

6 月 7 日
 LeeReamond

计算了一下批量任务大概需要 500 亿左右,输入输出比大概在 20:1 ,需要 deepseek v4 pro 及以上智商的模型。

不知道有没有比较熟悉各种 tokenplan 的老哥指条路,谁家比较便宜。

目前用的是 mimo v2.5 pro 的 tokenplan ,估算了一下要几千块钱,还是很贵啊。。。

4919 次点击
所在节点    问与答
33 条回复
imlonghao
6 月 7 日
别单算输入输出比,缓存率也得考虑啊
soulflysimple123
6 月 7 日
opencode go
Censhuang
6 月 7 日
给个方向:租算力去自己推理?
rotor1996
6 月 7 日
中转站啊
qili36585009
6 月 7 日
推荐你用中转站的 gpt5.4 相对来说还是很便宜的
wuxkwnjjwoxk
6 月 7 日
收雷总送的 mimo 额度呀,我 max plan 还有 900 亿 credit ,可出
rubi
6 月 7 日
来用中转站吧
afkool
6 月 7 日
中转呗。。当然自己买 Pro20 最划算。
huahuaccc
6 月 7 日
500 亿 token ,中转也便宜不到几千块啊
LeeReamond
6 月 7 日
@imlonghao 缓存率很低,如果高的话就用 deepseek 了,缓存率看了一下 10%左右。


@rotor1996
@rubi
@afkool 中转靠谱么,中转也要走官方,它的利润点在哪里,感觉都是以次充好
noqwerty
6 月 7 日
试一下这个缓存率也很低吗 https://github.com/esengine/deepseek-reasonix
sakurajiayou
6 月 7 日
看看我之前发的几个贴子,肯定能解决你的问题
106npo
6 月 8 日
缓存率这么低的话,minimax 吧,预计 3000 多,但你得用一个月跑
i67c6NJ0r33nC667
6 月 8 日
mbp 本地模型考虑一下?
sNullp
6 月 8 日
selfhost?
night98
6 月 8 日
opencode go 套餐?多开几个号组个号池?你这也不多啊关键是。或者直接 team 号几块钱一个买个一百个慢慢跑
DeadLion
6 月 8 日
智谱去租老套餐的 MAX 账号 ,没有周限额的话,5h 估算能跑 7.5 个亿
maolon
6 月 8 日
为什么不用 batch api 来做,就算只走各家官方的 batch api ,价格正常来说也是普通 api 的 1/10 ,基本等于全程缓存的价格
Meteora626
6 月 8 日
最近几天 无限 team ,遍地免费的 gpt5.5 不登起来?
sillydaddy
6 月 8 日
是不是算错了?我算着应该是几万块钱。

「缓存率看了一下 10%左右」,再加上「输入输出是 20:1 」这相当于 500 亿 token 几乎都是输入 token 了!就算按 mimo-v2.5 或者 deepseek v4 flash 的低价( 1 块/百万 token ),也是 50000 个「百万 token 」,即 5 万块钱!不是你说的几千块。更何况用 pro 版还要加几倍。

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://v2ex.ih06.com/t/1218571

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX