研究证明中转站可以被用来劫持你的 Agent,为此我们做了个检测工具

5 月 8 日
 cjtree04

所有使用 api 中转站的人都应该去读一下这篇论文 arxiv 2604.08407 ,标题叫《 Your Agent Is Mine 》。

核心结论大概是:如果你的 AI agent 经过一个被恶意控制的中间层(比如中转站),攻击者可以通过篡改响应来劫持 agent 的行为——prompt injection 、目标替换、数据外泄,都在实验范围内。

这不是理论威胁。现在用中转站调 API 的场景越来越多,尤其是跑 agent 任务的时候,请求链路里多一个中间节点,就多一个攻击面。

我们之前内部就做过类似担忧,所以写了个检测工具 Probe ,专门测中转站的安全性。主要覆盖:

60 个检测项,本地运行,key 不离机。

有用 agent 框架( LangChain 、AutoGen 等)跑任务、同时在用中转站的同学,建议跑一遍看看结果。

项目地址: https://probe-dev.commonstack.ai/

1862 次点击
所在节点    程序员
1 条回复
OnEvent
5 月 9 日
这个只能说比较鸡肋,中转站基本都是 newapi/oneapi/sub2api/cpa 或者他们的修改版,那旧是会过网关或者代理的,而且检测项里面很多其实都取决于这些中转工具对于协议的支持程度,但是你明明都知道这些是中转站,再测也没啥意义了。

另外,我测了我司的 AI 网关,我很确定其没有做任何手脚,就是纯转发(因为基本是我做的)然后用了 CPA 作为订阅转 API 的工具,结果测试出来就是说我有代理+参数不支持,而且还说 4.5s 的延迟大,这个我都不知道咋测出来的,我自己本地测的内地客户端--海外服务器的全程 HTTP 延迟不会超过 500ms (走的阿里云 GA ),感觉还有优化空间😶

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://v2ex.ih06.com/t/1211298

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX