1m 上下文感觉面对 agent 还是少了？预测下接下来哪家会先出真*2m 上下文？

不是那种跑 30%就开始降性能的那种模型

xiaomushen

2 天前

压缩一下呗，带着那么多垃圾历史信息没意义

lynn1su

2 天前

@xiaomushen #1 自动压缩感觉会损失很多细节。期待真 2m 上下文模型

SHIINASAMA

2 天前

我觉得目前这个上下文大小已经比较甜点了，有用的信息提到项目文档或者个人知识库就好

ktyang

2 天前

1M 的时候不担心 token 消耗量么？ 2M 那更不敢想了

lynn1su

2 天前

@hrapunzel #6 所以我说真*2m 上下文，不会因为长上下文稀释降低性能的

getadoggie

2 天前

能不能引入一种上下文提炼组件，代替压缩呢？自动判断哪些有价值，哪些没有的那种我觉得比光加要好

mingtdlb

2 天前

1M 上下文有些模型都丢信息。支持更大的上下文长度价值不大，压缩要做好能提取重要的信息，1M 往上显存兜不住

hrdom

2 天前

1m 上下文相对于 512k 性能已经下降了，可以从一些基准测试里看出来

PerFectTime

2 天前

得了吧, 现在真 1M 且效果好的模型都没有, 还 2M

fovecifer

2 天前

我觉得还是需要人来控制，有的时候表现出来记忆里不够，有的时候又混杂了很多无关的东西。
但是这样会很累，希望以后模型对于上下文处理的更加合理。

duanxianze

2 天前

还是研究研究压缩吧，真出了怕是没人用的起

leonvxe

2 天前

大胆点 100M 上下文就像当初宽带一样 512K ADSL,现在不也是家家都千八百 M 的

xiaoz

2 天前

个人感觉并不是上下文窗口越大越好，太大了精度质量下降，tokens 消耗更快。

长任务还是拆分窗口进行吧。

这是一个专为移动设备优化的页面（即为了让你能够在 Google 搜索结果里秒开这个页面），如果你希望参与 V2EX 社区的讨论，你可以继续到 V2EX 上打开本讨论主题的完整版本。

V2EX 是创意工作者们的社区，是一个分享自己正在做的有趣事物、交流想法，可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.