新论文：用弱模型监督训练阻止强模型消极比赛

来自MATS、Redwood和Anthropic的新论文！

如果一个有能力的模型在战略性地消极比赛，我们能否在唯一的监督来自较弱模型时训练它停止？我们发现可以！

作为Anthropic-Redwood MATS流的一部分完成的工作。