GPT sol 的上下文长度设置成多少比较合适,默认的 200k 太短了,随便几下就开始合并了, 1m 到后面又有点顾头不顾尾的

1 天前
 coder121
2373 次点击
所在节点    程序员
18 条回复
QS0x01
1 天前
我参考的官方 API 双倍价格门槛 272K 那个界限,略微留一点缓冲区,取个整 300K 让它开始压缩。
schemesAlot
1 天前
试过 tibo 说的那个 1m,用了两次就删了,坚持 272,官压除了慢没毛病
Rickkkkkkk
1 天前
codex 默认的肯定就是最合适的,1m 真的好用,那默认的设置为什么不是 1m
pony2335
1 天前
500k
iyaozhen
1 天前
codex 默认呀,调那个干啥
zed1018
1 天前
别说 codex 了,CC 早就开放 1M ,且默认 1M 。但是实际上/usage 里都会提示 >150K 的应该 compact ,因为计费很贵。
yh7gdiaYW
1 天前
@Rickkkkkkk 因为 openai 搞阶梯计费导致开 1m 很贵。codex 刚开始默认也不是 272k ,不会自己管控上下文的初级用户太多导致用量消耗太快,意见太大了才缩回去的
nakun233
23 小时 30 分钟前
我问了他之后,他说设 600k
longaiwp
22 小时 2 分钟前
@Rickkkkkkk 因为太大消耗会很快,所以才缩回去,但是太大还有一个注意力不集中的问题
Rammus
20 小时 52 分钟前
200k
wengjin456123
20 小时 27 分钟前
272k 确实小,而且这玩意上下文涨的太快
tagee
20 小时 12 分钟前
我设置过 1m 的,体验很好啊,很久都不会看到他在压缩上下文。但是额度扛不住,感觉跟开了 fast 似的,额度蹭蹭往下掉。
zuosiruan
18 小时 43 分钟前
我用的 500KB
maolon
14 小时 12 分钟前
按 matt ( grill me 作者)的说法应该 150k 就 compact ,5.6 默认是 272k ,分段计费开始于 272 ,所以 272 之上会消耗会很大至少 sol 和 terra 不推荐开高,luna 对于长任务可以适当拉满使用
IMengXin
9 小时 1 分钟前
为啥我没调整过,自己变 1M 了。。
liansishen
6 小时 20 分钟前
272 真的动不动就压缩,非常拖慢速度,我改成了 372
tylerrrrrr
5 小时 47 分钟前
我也踩过:默认 200k 容易早 compact ,直接开 1m 额度掉得飞快。我现在按官方阶梯附近留一点缓冲(大概 272k–300k )让它压,比硬撑满窗稳。长任务与其塞进同一个超长会话,不如阶段性收束再续;我本机会把 Codex/Claude Code 会话分任务接着跑,本地工作台只帮忙看进度和 Diff ,不替换 CLI: https://github.com/yy36295238/caravel-releases
keakon
3 小时 17 分钟前
codex 有个功能是让模型自行记录笔记,并自主进行上下文切换。
我把这个功能移植到了自己的 agent ,感觉挺好用的,模型会在完成子任务或上下文较多时就瞬间清理上下文,可以无缝连续长程工作。我有个任务已经跑了 8 小时了,推进仍然很顺利。

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://v2ex.ih06.com/t/1238867

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX