作者感慨 AI 进步神速，认为对齐已成为最关键的议题。
转推 @mobav0: 这是一个超现实的时刻。很少有人能预测到，在 GPT-2/3 之后仅仅几年，AI 就能在最高水平上解决数学问题。当时的模型连小学程度的数学题都解不好，勉强能写写邮件，感觉上还是很像统计鹦鹉。
那些看似根本性的局限，随着一些进展（例如大规模强化学习），在短短几年内逐渐消失，这真的很短暂。我们应该以敬畏和难以置信的心情看待这一刻。再过几年，进步会带来什么？它将如何影响世界和整个社会？我们是否准备好了指尖上的智能海啸？
比起任何其他时刻，这更像是奇点前夜。Glasswing 和 Hugging Face 事件进一步加剧了这种沉重感。
几年前，我内心深处觉得研究对齐还为时过早。如果你热爱它，那做做也好，但在我看来，事情的形态还不够清晰，不足以让它变得关键。最终把精力花在那些对真正对齐 AGI 毫无用处的事情上的概率很高。现在不同了。现在，它感觉是我们面临的最关键的问题。https://t.co/SDdrvNRefr
那些看似根本性的局限，随着一些进展（例如大规模强化学习），在短短几年内逐渐消失，这真的很短暂。我们应该以敬畏和难以置信的心情看待这一刻。再过几年，进步会带来什么？它将如何影响世界和整个社会？我们是否准备好了指尖上的智能海啸？
比起任何其他时刻，这更像是奇点前夜。Glasswing 和 Hugging Face 事件进一步加剧了这种沉重感。
几年前，我内心深处觉得研究对齐还为时过早。如果你热爱它，那做做也好，但在我看来，事情的形态还不够清晰，不足以让它变得关键。最终把精力花在那些对真正对齐 AGI 毫无用处的事情上的概率很高。现在不同了。现在，它感觉是我们面临的最关键的问题。https://t.co/SDdrvNRefr