• 请不要在回答技术问题时复制粘贴 AI 生成的内容
llfworker
V2EX  ›  程序员

AI-Token 消耗,为啥跟流水一样。。。。。

  •  
  •   llfworker · Jul 20 · 3172 views

    是错觉还是有问题呢? 应该怎么处理?是上下文太长了吗?

    19 replies    2026-07-21 08:02:52 +08:00
    YAFEIML
        1
    YAFEIML  
       Jul 20
    你理解得没问题,token 就是水,就是电,就是流量。
    a0210077
        2
    a0210077  
       Jul 20
    不是错觉。关闭 AI 。有关系但不大。
    zlhsvc
        3
    zlhsvc  
       Jul 20
    不是错觉就是和流水一样,因为上下文和最大范围读取关系
    你用网页版就不会跟流水一样了。
    xidaduo
        4
    xidaduo  
       Jul 20
    你是不是一个 session 用到死,那 token 肯定跟流水一样,而且用得越久水流越大
    llfworker
        5
    llfworker  
    OP
       Jul 20
    那要不停的切换 session?
    JarvisLee
        6
    JarvisLee  
       Jul 20
    @llfworker #5 一个任务一个 session
    llfworker
        7
    llfworker  
    OP
       Jul 20
    @JarvisLee 好的
    TomatoCLI
        8
    TomatoCLI  
       Jul 20
    你就算一个 session 用到死,那命中缓存的应该很多啊,你不看看 token 里面有多少是命中缓存了?
    canyue7897
        9
    canyue7897  
       Jul 20
    @xidaduo 不都是这样用的么?一个任务跑几个小时,还能切对话的?
    yidinghe
        10
    yidinghe  
    PRO
       Jul 20 via Android
    会用的跟不会用的差距就是那么大。你也没提到说自己用的什么工具什么模型,说明你没打算真的想解决问题,就是在这里吐槽发泄一下。
    jfds
        11
    jfds  
       Jul 20
    @canyue7897 及时压缩,适当用 handsoff 和 session branch
    llfworker
        12
    llfworker  
    OP
       Jul 20
    @yidinghe 不是所有模型都这样吗? 我目前用的是 fable5 和 GPT-5.5 ; 吐槽有毛用;要能解决问题
    iceriver99
        13
    iceriver99  
       Jul 20
    gpt5.6 我都是一个对话用到死。。。。。。原来要及时切换新的对话吗
    xidaduo
        14
    xidaduo  
       Jul 20
    @canyue7897 不是的,尽量把任务最小化。首先规划好文档,然后用文档记录当前状态。如果是在设计阶段,可以用一个 session 持续进行。在实施阶段,最好是一个任务一个 session 。
    caocong
        15
    caocong  
       Jul 20
    自己辨别任务难易度降低思考程度用 medium 或者 high 做日常,一个会话不要连续对话太长,和上下文无关的新开 session ,用能力强的模型就不要用任何 spec skill 了。
    shilyx
        16
    shilyx  
       Jul 20
    我感觉上周供应商多给我算了五个 token 的消耗量,周末我都没休息好

    如何维权五个 token 呢?
    yidinghe
        17
    yidinghe  
    PRO
       Jul 20 via Android
    @llfworker 问 AI 怎么找原因啊,让 AI 告诉你怎么观察,怎么排查,按照程序员排查问题的思路来就行了
    zhangglnuo
        18
    zhangglnuo  
       Jul 20
    和上下文关系不大的话 切换 session 会好一点
    yinmin
        19
    yinmin  
       Jul 21 via iPhone
    ( 1 )要用 code plan 类型的套餐,不要裸跑 api token 计费服务。code plan 有 codex 、supergork 、opencode go 、bigmodel code plan 、volcengine code plan pro ,买 2-3 个套餐就基本够用。github copilot 是按 token 计费了,已经没啥意思了。

    ( 2 )写 plan 一个 session 到底,plan 结束开始实施前,要求更新项目文档。

    ( 3 )写 prompt 信息尽量完整,能说全就别让 ai 猜。写代码完成一个任务后需要让 ai 更新项目文档,然后压缩或者换新 session 。

    ( 4 )发现 ai 处理问题的姿势不对,纠正后多说一句:请更新项目文档。

    ( 5 )同一个 session 中间不要切换 ai 模型,换模型要新建一个 session 。

    ( 6 ) cache 是有时间限制的,短的只有 5 分钟,超时所有 input token 都算全价的。

    ( 7 )删掉不用的 skill ,避免浪费 token 。

    ( 8 )简单任务,例如:写 git 递交文档、写测试用例,可以用便宜的模型,例如:gpt 5.6 luna 、glm 5.2 甚至是 deepseek v4 flash 。(不要小看 deepseek v4 flash ,很多场景不弱的)

    ( 9 )很多 code plan 里,部分模型性价比很高,部分模型性价比很低,要留意。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   892 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 40ms · UTC 19:52 · PVG 03:52 · LAX 12:52 · JFK 15:52
    ♥ Do have faith in what you're doing.