自部署模型卖 Token 能赚钱吗？

我自己粗略地计算了下，K3 就不说了启动成本太贵，DS 和 H3 好像是有可能的，尤其视频模型，SeedDance 定价很贵，H3 便宜但是自己部署成本可以做到低于官方价格，不知道多模态模型的行情怎么样。

你这不就是自建数据中心了么 前期的账算得过来么

LLM 不赚钱。你看各大服务商哪个价格能做到比官网便宜就知道了。尤其是 deepseek 这类。

视频模型自部署的问题是官网其实是一整套流程，但 Minimax H3 只开源了视频生成部分。
如果从工作量上讲，H3 开源的生态只占大概 40%左右。

赔的裤衩都不剩

买 decensored 也许可行。但是可能会进去

不行得

@Kaisar 就是算不清所以想问问有没有人做过的，另外我个人肯定是希望能从小一些的模型尝试下。
@sentinelK 了解了，意思是除了 API ，还需要提供配套工具？那这么看如果能找个中转站类似的服务商合作就更好了。

@bootvue 这么惨的吗？能细说一下不？

不是这门生意很好，而是大厂只能追这个风口。
看字节给即梦和豆包到处找博主打广告，就知道这个生意不好做。

这不就是算力租赁吗... 一开始要投入的成本太高了

你得掺假不然不赚钱

/t/1234981

本质上你不卖 Token, 是卖基础设施和服务
投资角度的话, 那完全是另外一个话题, 可以另说

@Haku 这不光是配套工具那么简单。

1 、你没有官方的运行环境，所以你的显卡利用率一定不如官方。

2 、你没有配套生态，比如 Minimax H3 是有对应的 designer 工具免费提供的。能通过摆 3D 小人精准控制走台和运镜。还能自动生成分镜和剧本。多媒体模型还要缓存素材、生成结果。minimax H3 官方是 7 天免费存储的，你算算 7 天的巨量缓存成本是多少。

3 、你没有官方的部署经验，官方有海量硬件，所以可以根据推理情况灵活调配负载，你的硬件总数是固定的，所以只有一个甜点。一旦用户负载有波动，你的体验就直线下降。

最终结果就是，你的 pp/tg 比官方慢，缓存命中率低，有时候还要整个 session 重新 prefill ，还比官方贵。

视频模型更惨，排队排到死不说，素材传不上去，传上去了调不出来，还没官方的设计工具……

@sentinelK 感谢大佬分享，我只调研了一下模型部署成本，没想到会有这些问题

你可以先租几块卡，看满载满吞吐量能输出多少 token/秒，再折算一下电价。现在大厂卖 token 很多有私有、针对性优化的推理框架，你用开源的一定达不到人家那个推理效率。

@Haku 简单说就是，对于大模型，使用人数和成本的关系是指数的。

每多加一个人，成本都翻一个次方。直到到一个规模化平台。

算力我记得是重资吧，你有多少本

没啥意义呢。。能自己部署的模型没意义。别人为了安全买官方或者大厂也正常。发票也正常
个人用户大部分都是白嫖 token
能赚钱的那批数字人已经下线了。短剧的也是
生图要求很高的。基本海外闭源模型。。
就算你自己部署。自己用。也是亏电费

你都一几个小目标了。还来赚这个钱？什么？你没有几个小目标？那你说啥？