Dwarkesh 新一期播客:多智能体、数学进展与 RSI 前的对齐问题

RT @dwarkesh_sp:与 @polynoamial 的新一期节目

我们聊了多智能体、Navier-Stokes,以及当前数学领域的爆发式进展,如何预示了当我们把 AI 研究自动化之后会发生什么。

我们还讨论了:在启动 RSI 之前,我们如何判断模型是否真正对齐。

0:00:00 – 多智能体与 Navier-Stokes
0:15:28 – AI 公司将如何运作?
0:22:02 – 数学的进展对递归自我改进意味着什么
0:40:22 – Hugging Face 与对齐
1:01:18 – 内部模型与外部模型之间的差距
1:08:34 – 思维链正在退化
1:14:12 – 我们如何知道对齐问题已被解决?