使用同一个本地部署的模型,在不同的上下文环境使用差别非常大,有没有办法取得一致性

9 月 20 日
 tommyZZM

使用同一个本地部署的模型,Qwen3.8-27b-q4_K_M

在 Vscode 分别使用 Github Copliot 和 Continue 插件,对同一个问题的解析和处理差别非常大

感觉 Github Copliot 的处理方式更加“聪明”“合意”

有没有办法尽可能取得一致性?发挥模型的最大效能

感觉这里是一个可探索的区间

623 次点击
所在节点    AI Agent 智能体
4 条回复
kimhooo
9 月 20 日
如果你没办法量化定义什么是更加“聪明”“合意”,那就没必要折腾这个问题,等模型能力变强就好
tommyZZM
9 月 20 日
@kimhooo 模型能力再好,输出结果,也会受上下文的干扰。这是一个互相作用的动力系统。
wanganjun
9 月 20 日
应该是 Github Copliot 加了什么提示词,还内建了一些什么功能,所以表现好一点。

Continue 很原始,不适合用来做快速上手的 agent ,需要定制。

想要探索的话,我觉得可以找一个查看 agent 历史 session 文件的软件,对比一下,Copliot 和 Continue 都给 Qwen3.8 发了什么提示词
SilencerL
9 月 20 日
harness 的问题不是模型的问题,很难让所有 agent 在同一个模型下的表现接近

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://v2ex.ih06.com/t/1243369

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX