AI几年内从解题到最高水平，作者认为对齐成为最关键问题

转推 @mobav0: 这是一个超现实时刻。很少有人能预料到，在GPT-2/3之后仅几年，AI就能解决最高水平的数学问题。当时的模型连小学算术都不可靠，勉强能起草邮件，仍然像统计鹦鹉。那些看似根本的限制随着一些进展（如大规模强化学习）在几年内逐渐消失，这确实很短。我们应既敬畏又难以置信地审视此刻。再过几年会带来什么？它将如何影响世界和社会？我们准备好迎接指尖上的智能海啸了吗？这比任何时刻都更像奇点前夜。Glasswing和Hugging Face事件进一步加重了紧迫感。几年前，我内心深处觉得对齐研究为时过早。如果这是你的热情所在，做做无妨，但当时形态不够清晰，不认为它关键。最终做无用功的概率很高。现在不同了，它已成为我们面临的最关键问题。https://t.co/SDdrvNRefr