动态

对齐团队的思维链监控研究

Greg Brockman
来自我们对齐团队的极其有趣的工作
OpenAI
思维链监控器是对抗AI智能体不对齐的关键防御层。为了保持可监控性,我们在强化学习中避免惩罚不对齐的推理。我们发现了一些偶然的CoT评分影响了已发布的模型,并分享了我们的分析。
动态Greg Brockman2026-05-08原文

相关内容