转发质疑AI灭绝人类风险缺乏可信场景,反对科幻式炒作

RT @DFintelligence:我刚刚花了2个小时仔细研读关于"AI 导致人类灭绝风险"的科学文献。除了这类文献几乎不存在之外,几乎所有内容都指向书籍和小说,或者像"回形针"那样的简化推演——而这些本质上只是思想游戏,在现实生活中并没有真正的应用。

而且,我读到过的场景里,没有任何一个是可信的、不需要人类介入的。

基于这一点,我不理解怎么会有人说出"AI 可以杀死所有人类"这种话,还能被认真对待。

给我举出 3 个可信的场景:AI 完全自主地灭绝人类——哪怕是超智能、能自我学习的 AI 也行。

来吧,我听着。

说真的,我实在厌倦了人们如此重视这些科幻式的场景。

在完全没有任何可信场景的情况下,就对如此巨大的威胁妄下定论,这是极度不诚实的。

针对越来越智能、层级越来越深的系统开展安全研究,这很重要。

但我认为,真的该停止如此重视这种胡扯了。这让我很累。