AI安全研究员：当前防护无效，应转向经典安全权限管理

目前的AI防护措施不起作用，我们只是运气好，AI代理还不够强大以至于无法造成真正的伤害。AI安全研究员Sander Schulhoff——他曾举办首次提示注入竞赛，并构建了财富500强公司用于基准测试其系统的数据集——解释了为什么自动化安全工具对越狱和提示注入根本无效。他阐述了LLM的无限攻击空间、代理系统的风险，以及为什么组织应该停止依赖防护措施，转而实施经典的网络安全权限管理。如果你的公司正在部署AI代理，这通警钟是你需要的。