大语言模型在安全领域的思考和尝试 - AI 安全助手

生成式集成进杀软也许是个好方案，也许很快就能用到人工智能的自动化分析工具了。

看起来很有趣，用大模型辅助一些安全检测和信息查询。看起来作者使用的是 ChatGPT ，没有选择目前开源的大模型，这个就还面临一些返回结果可靠性的问题。

很巧我最近也在弄这个，和楼主的思路很一相似。有几个问题一只困扰着我找不到思路：

1. 怎样让 LLM 根据问题 使用最佳的（最接近真实的） chains 回答问呢？
2：如果是要去返回如防护数据，那么怎么去处理时间问题。（比如 WAF 攻击是每天会产生，怎么根据用户问题转化成查找，虽然可以使用 SQLchain, 但是有面临第一个问题。怎么区分不同的 SQL 表呢

结合 SD ，想象空间巨大

牛的，最近也有点想法，哈哈哈哈，原来都在做

大语言模型只是一个颖上添花的功能， 最终还是要靠在安全领域的深耕。 问题回答的在好，解决不了问题都是白搭。
另外一个核心的问题就是作为一个安全产品， 你如何确保 ChatGPT 是安全的，回答的是准确的。

关注