• 请不要在回答技术问题时复制粘贴 AI 生成的内容
coder121
V2EX  ›  程序员

GPT sol 的上下文长度设置成多少比较合适,默认的 200k 太短了,随便几下就开始合并了, 1m 到后面又有点顾头不顾尾的

  •  
  •   coder121 · 11h 46m ago · 1517 views
    13 replies    2026-09-02 22:51:51 +08:00
    QS0x01
        1
    QS0x01  
       11h 41m ago
    我参考的官方 API 双倍价格门槛 272K 那个界限,略微留一点缓冲区,取个整 300K 让它开始压缩。
    schemesAlot
        2
    schemesAlot  
       11h 38m ago
    试过 tibo 说的那个 1m,用了两次就删了,坚持 272,官压除了慢没毛病
    Rickkkkkkk
        3
    Rickkkkkkk  
       11h 36m ago
    codex 默认的肯定就是最合适的,1m 真的好用,那默认的设置为什么不是 1m
    pony2335
        4
    pony2335  
       8h 58m ago
    500k
    iyaozhen
        5
    iyaozhen  
       8h 58m ago
    codex 默认呀,调那个干啥
    zed1018
        6
    zed1018  
       8h 49m ago
    别说 codex 了,CC 早就开放 1M ,且默认 1M 。但是实际上/usage 里都会提示 >150K 的应该 compact ,因为计费很贵。
    yh7gdiaYW
        7
    yh7gdiaYW  
       6h 53m ago
    @Rickkkkkkk 因为 openai 搞阶梯计费导致开 1m 很贵。codex 刚开始默认也不是 272k ,不会自己管控上下文的初级用户太多导致用量消耗太快,意见太大了才缩回去的
    nakun233
        8
    nakun233  
       4h 50m ago
    我问了他之后,他说设 600k
    longaiwp
        9
    longaiwp  
       3h 22m ago
    @Rickkkkkkk 因为太大消耗会很快,所以才缩回去,但是太大还有一个注意力不集中的问题
    Rammus
        10
    Rammus  
       2h 12m ago
    200k
    wengjin456123
        11
    wengjin456123  
       1h 46m ago
    272k 确实小,而且这玩意上下文涨的太快
    tagee
        12
    tagee  
       1h 32m ago
    我设置过 1m 的,体验很好啊,很久都不会看到他在压缩上下文。但是额度扛不住,感觉跟开了 fast 似的,额度蹭蹭往下掉。
    zuosiruan
        13
    zuosiruan  
       3 mins ago via iPhone
    我用的 500KB
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   2951 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 35ms · UTC 14:55 · PVG 22:55 · LAX 07:55 · JFK 10:55
    ♥ Do have faith in what you're doing.