批评AI存在风险鼓吹者，强调实践迭代确保安全。

存在风险鼓吹者是一个小众、声音很大的邪教组织，拥有非常聪明的在线水军技能。

政客们从不浪费一场好的虚假危机，这就是为什么它们完美适合伯尼试图从私营部门夺回生产资料。

想象一下，如果1997年有主流政客把天堂之门自杀邪教请上台？

这就是今天美国政治边缘的现状。

我们已经跳入了荒诞的鲨鱼，完全失去了现实的线索。

而这不是AI造成的疯狂。这是老式的人类幻觉、讲故事和妄想。

社会永远不应该基于没有现实基础的想象未来威胁来制定政策。AI已经被数十亿人使用，它和人们想象的不一样，我们都还在，问题甚至按过去技术革命的标准来说也少得可笑。

如果我告诉你有一项技术每年导致150万人死亡、5000万人受伤，你会接受吗？答案是肯定的，因为那是汽车。你今天可能已经坐进了汽车，接受了这个风险，甚至从未想过。

相比之下，死于或受伤于AI的人数是微不足道的百分比，甚至那些案例也多半是站不住脚的。

事实上，AI已经拯救了无数生命。它通过药物发现帮助制造新冠和流感疫苗拯救了生命。它通过防抱死刹车拯救了生命。它通过自动驾驶汽车拯救了生命，这些汽车比人类司机安全10倍，然而你在新闻中读到的关于自动驾驶汽车的只有那些极其罕见的、确实导致狗死亡或人受伤的故事。

如果这听起来不理性且疯狂，那是因为它确实如此。

我们担心一项安全记录近乎完美的技术，却对每天杀人的技术完全无动于衷？

欢迎来到人类思维的非理性！

如果暂停AI的邪教得逞，我们还会困在GPT2这个幻觉混乱中，不会取得现在更稳健、高度对齐、智能且有用的模型的进步。

那是因为你无法通过想象或在Less Wrong上对其他精神手淫者写愚蠢的文章来取得进步。

你通过试错在现实世界中解决问题。

让AI安全的方法是构建它并在现实世界中迭代。

没有其他方法。