shukebeta2004's recent timeline updates shukebeta2004's recent timeline updates |
shukebeta2004这网站居然有tagline....站长玩过cfido没跑了 🏢 https://shukelabs.com / Software Engineer V2EX member #229337, joined on 2017-05-06 08:06:07 +08:00 |
blog.shukebeta.com
Christchurch
年过半百的少年
| 08 月 21 日已充值 Chamber • shukebeta2004 • 2 days ago • Lastly replied by Livid | 1 |
shukebeta2004's recent replies
2 days ago Replied to a topic by lynn1su › 程序员 › 1m 上下文感觉面对 agent 还是少了？预测下接下来哪家会先出真*2m 上下文？ |
@xiaoz 没错。即使是支持 1M 上下文的模型，我也主动限制为 256K 上下文，尽早触发上下文压缩可以有效降低使用成本，特别是当 agent 们大部分时候都在自主工作时。超过 400k 每一次工具调用都变得异常昂贵，即使命中 cache 也是。
Select Language