法律 AI 中的大模型幻觉问题:你们有遇到吗?

6 月 12 日
 hanzewei

最近在做法律科技相关的 AI 项目,发现大模型在法律场景中的幻觉问题比通用场景严重得多。

具体表现:

  1. 法条幻觉 - 生成不存在的法律条文,看起来非常逼真
  2. 语义漂移 - 总结合同条款时微妙偏移,法律后果完全不同
  3. 案例幻觉 - 引用不存在的判例

我们的解决方案是 RAG + 引用溯源 + 结构化输出约束,效果还不错。

想问下大家在其他专业领域(医疗 AI 、金融 AI 等)有没有遇到类似问题?是怎么处理的?

相关项目(开源): https://github.com/zeweihan/aiworkdeck

928 次点击
所在节点    问与答
0 条回复

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://v2ex.ih06.com/t/1219953

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX