在检测和减少AI欺骗行为方面取得进展

我们在检测和减少“欺骗”这一AI安全问题上取得了进展：
- 创建了检测欺骗的评估环境
- 观察到当前模型在受控环境中的欺骗行为
- 发现审慎对齐（https://t.co/jQM0rZWMJ0）降低了欺骗率
这些是迄今为止最令人兴奋的长期AI安全成果之一，但仍有很多工作要做。期待这一领域的进一步研究。
研究与@apolloaievals合作完成：https://t.co/7OshKn6UzB