OpenAI关注思维链监控，防止不可监控性竞赛

转推 @merettm: 我想阻止因混乱报道而引发的不可监控性竞赛。我们当前前沿模型（包括Astra）的计算图深度，与GPT-4相差不到两倍。OpenAI自首个推理模型起，就致力于保留并利用思维链监控。我们非常重视这项技术，因为它能让我们看到模型对齐如何从其训练分布中泛化。我确实认为它很脆弱，且不幸地正朝负面方向发展，原因不依赖于架构变化，我很快会写文章说明。但我们可以采取一些措施来加强它，这也是我们当前研究计划的核心目标。