Yann LeCun驳斥AI暂停论点，认为其不切实际

暂停仍然是彻头彻尾的废话，而且永远都是。

1. 让我们通过不制造飞机来让飞机更安全！

2. “暂停”到底会发生什么？实验室继续工作，而我们只能干等那个尤里卡时刻？

我猜有人继续拿钱，而我们却因几个人的模糊想法（他们边吸胶水边读《沙丘》想出一些想象中的未来问题）让经济戛然而止！

3. 实验室不推出新产品时谁来资助？

我猜风投会继续出于好心给他们数千亿美元！

4. 什么能证明暂停合理？

显然，是奇妙的想象世界！尚未发生的理论上的未来问题。

比如大规模失业？呃，就业在增加，包括受AI影响最大的领域（如编程），所以大概不是这样。

那是什么？我知道就业末日要来因为我能想象，想象就是现实，对吧？

也许先进的AI武器？

啊，所以政府也会暂停武器研究？

哦不，他们反正会继续研究，因为政府总是这样。

好吧，我们要禁止聊天机器人，而政府继续制造武器？这能解决我们对AI的所有担忧！

那么，递归改进模型一夜之间变成超级智能呢？

那不是真的，是复仇者联盟电影的剧情。

模型受限于现实世界的约束：算力（大脑/芯片）、时间（药物二十年副作用只有二十年后才知道）、模糊多重性（不是对错而是大致对错，意味着无法为“这个商业决策是否正确”设计奖励信号），以及主体/客体悖论（改进者评判自身改进，细品一下）。

但我想象AI瞬间克服所有现实约束，所以它是真的！

5. 我们怎么知道暂停期间做完了该做的事？怎么知道何时结束？

不知道。我们只是现在想要暂停，因为我们想要！你没看到我的暂停⏸️表情吗？很棒吧！

6. 谁来决定我们准备好取消暂停？

政府或人民！

太好了，因为这种模糊的陈词滥调向来对具体政策设计很有效。

看，这些都不是真的。

这是表演。

不是真正的政策。没有现实基础。是集体幻觉。

由相信魔法和魔法解决方案的人推动。

由此产生的任何东西都会比他们最初试图保护我们免受的想象问题造成更大的伤害。