恶意软件利用LLM安全拒绝规避AI扫描

新发现：恶意软件开发者将核武器与生物武器相关文本加入间谍软件。

目的？触发 LLM 安全拒绝... 这样他们的间谍软件就不会被 AI 安全扫描器分析。

我能想到的最简洁的实际例子，说明为什么过度依赖一阶安全对齐是有风险的。

当封闭（和开放）模型搭载激进的拒绝机制时，它们会散布二阶盲点，攻击者会发现并利用这些盲点。

我们还处于攻击者利用这些特征的最早期阶段，如果处理复杂网络安全问题的用户系统要求模型减少安全钝化，我不会感到惊讶。

深入细节：@SocketSecurity 的帖子还展示了在设计恶意软件分析管道以避免提示操纵时，意图的重要性。

感谢分享给我的同事们 https://t.co/f3Aj9TYxU4