这种都能触发 fable 5 的降级。该怎么搞？

1 天前
 blackantt

项目将来会被编译成绿色版发布，那用户是否能反编译客户端后，会否在短时间内发起很多请求，在预扣费系统还没反应过来之前，超额消费，最后我平台遭殃？ 查一下 server 侧的机制，看有没有类似的方面需要提前补漏?

我先摸一下服务端代码的结构和计费/限流相关的位置，再用多智能体做一次系统性的滥用面审计。

Ran 3 commands, searched code

Fable 5's safeguards flagged this message Our intentionally broad safeguards allow us to deliver more capabilities faster, but can sometimes flag legitimate coding, cybersecurity, and biology tasks. Switched to Opus 4.8. Details: [cyber]

1605 次点击
所在节点    Claude
7 条回复
yidinghe
1 天前
简单，换其他的模型。
blackantt
1 天前
@yidinghe opus 5/4.8 都不聪明啊。
roygong
1 天前
这种涉及到安全层面的分析，哪怕说自己是红队也很容易触发模型回退
yidinghe
1 天前
@blackantt 你这个问题不需要那么聪明。
yidinghe
1 天前
多说两句吧。你这个问题真的是。

你的问题只是一个计费问题，但是你不去提炼问题的核心内容，反而把计费跟安全两个问题混在一起，触发大模型警觉，懂了吗。人家短时间发起很多请求，但这些请求都是合法的，既没有盗用用户账号，又没有突破任何权限，你能处理就处理，处理不了就熔断限流，这跟安全有半毛钱关系？
alexluo1
1 天前
只要跟逆向有关一路降到 opus 4.8 ，因为这个我取消了 200 刀的，转 codex 了
kyochilian
1 天前
@yidinghe 是不是 绿色版 反编译 超额消费等等触发关键词了

这是一个专为移动设备优化的页面（即为了让你能够在 Google 搜索结果里秒开这个页面），如果你希望参与 V2EX 社区的讨论，你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://v2ex.ih06.com/t/1236411

V2EX 是创意工作者们的社区，是一个分享自己正在做的有趣事物、交流想法，可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX