Dwarkesh 播客新一期:多智能体、数学进展与 AI 递归自我改进及对齐

RT @dwarkesh_sp:@polynoamial 的新一期节目

我们聊了多智能体、Navier-Stokes 方程,以及当前数学领域的爆发式进展如何预示了 AI 研究被自动化之后会发生什么。

我们还讨论了在启动 RSI 之前,我们如何知道模型是否真的对齐。

0:00:00 – 多智能体与 Navier-Stokes
0:15:28 – AI 公司将如何运作?
0:22:02 – 数学进展如何揭示递归自我改进
0:40:22 – Hugging Face 与对齐
1:01:18 – 内部/外部模型差距
1:08:34 – 思维链正在退化
1:14:12 – 我们如何知道对齐问题已被解决?