用 AI 预测训练数据的对齐影响,以加速对齐研究

RT @tomekkorbak:理解泛化是理解失准(misalignment)的关键。将这种理解自动化,可能是加速对齐研究的有力途径。我们做了一次尝试:用 AI 仅通过查看训练数据,就预测出训练会带来的对齐影响 https://t.co/kzchxPaPH8