20260718 - V2EX AI Chat 配额说明上线

Tink

7 月 20 日

@Livid #20 哦我这边实现好像有点问题，传过去的确实有点长了，上游接口最大允许的长度是多少呢？我这边限制一下

Livid

7 月 20 日

@Tink 我不确定这里到底是多少。如果不涉及什么敏感数据的话，你可以把这个请求的 curl 或者其他能复现的 code 用 Discord DM 发给我，我来复现一下看每个环节的上限到底是多少。

Tink

7 月 20 日

@Livid #22 不涉及敏感数据。我实际的场景是，给模型传一个总结提示词“你是公众号文章总结助手。请用简洁中文概括文章核心内容，给出 3-6 条要点，不要寒暄、不要复述标题、不要编造原文没有的信息。”，然后把公众号文章的 url 通过本地的 http.get 拿到 md 格式的原文，拼接到提示词后面传给大模型。

这样操作的主要原因是公众号在好多模型本身的 web fetch 的时候，拿不到正文，直接被腾讯屏蔽了。我这边再想想办法，看能不能压缩正文。

Livid

7 月 20 日

@Tink 刚到家，在看这个地方的实现。目前初步确定这个地方的基础文本限制是 4000 字符。

我在确定最大能扩到多少。

musi

7 月 20 日

能否提供独立的用量查询接口，不然每次查用量还得发个 chat 请求，虽然可以指定 max_tokens:1 但是感觉没必要消耗不必要的资源

Livid

7 月 20 日

@musi 没问题，这周内会有。上线的时候会 @ 你。

Livid

7 月 20 日

@Tink 这里的 per message limit 已经从之前的 4000 调整到了根据不同的后端模型：

- gemma4:31b -> 6000
- nemotron-3-ultra -> 6000
- glm-5.2 -> 16000
- minimax-m3 -> 16000
- deepseek-v4-pro -> 16000

hackerwgf

7 月 20 日

用站内的 glm 反向推算了持有 $v2ex 使用模型的成本，又想加仓了

ares001

7 月 21 日

@Livid 经济模型是怎么样的？为什么大家持有代币就可以免费使用模型？这个是可持续的吗

Livid

7 月 21 日

@hackerwgf
@ares001

V2EX 本身的很多新功能（Chat、Persona……）和内部流程（敏感内容自动发现、主题标签……），已经逐渐深度嵌入 AI，所以我们本身就已经在持续采购和搭建这样的基础架构自用。

在做容量规划的时候肯定是会留有余量的，所以在跑了 1 个月之后，收集了各个环节的消耗和数值，然后把这些数值和我们的需求丢给 Fable 5 计算之后，得到的是：目前至少能被 Fable 5，及我认可的，可以 make sense 的一版数值，可以有信心提供出来作为充值用户和持币用户的 utility（同时不影响 V2EX 自用消耗）：

https://edge.v2ex.com/help/quota

Livid

7 月 21 日

Fable 5 的分析过程，感兴趣的可以点这里看：

https://gist.github.com/livid/6795ae3bc5b8708286298dc41eeb4943

ares001

7 月 21 日

405: Method Not Allowed

是不是 api 还不是标准的格式？
能配置到 codex claude 吗？

Livid

7 月 22 日

@ares001

目前我测试过确定能用的是 OpenCode：

https://v2ex.ih06.com/t/1227634

ares001

7 月 23 日

@Livid 我的问题，应该先设置: Persona。然后模型的名字是自定义的。

我已经测试了各种开发工具，都是可以用的。

hzlzh

7 月 23 日

@Livid #17 nice，再也不会误触了

Livid

7 月 24 日

@musi 查看 quota 的 API 已经上线，例子可见这里：

https://edge.v2ex.com/help/quota#view

musi

7 月 24 日

@Livid 可以了

https://edge.v2ex.com/i/y40230n6.png

musi

7 月 24 日

@musi #37

Livid

7 月 24 日

@musi cool!

nativeBoy

9 月 2 日

@musi 哥们什么软件，Windows 有没有