OpenAI分享持续强化ChatGPT Atlas对抗提示注入攻击的方法

我们刚刚发布了一篇文章，介绍如何持续强化ChatGPT Atlas（及其他智能体）以抵御新型提示注入攻击。这是一个持续存在的安全问题（也是一个前沿研究问题！），我们正在大力投资自动化红队测试、强化学习和快速响应循环，以保持领先于对手。