新文章探讨 AI 安全运动该走大帐篷还是小帐篷,并批评 x-risk 叙事

RT @random_walker：新文章：AI 安全运动应该是大帐篷还是小帐篷？
安全争论背后那个未被言明的分歧
https://t.co/4T9n7BLTWX

关于 AI 安全,已经浮现出两种叙事:要么 AI 的存在性风险真实且迫在眉睫,要么 AI 领域领导者和吹哨人对此类说法的表述并不真诚——是一场「心理战」、炒作,或某种扭曲的监管俘获。

很少有人考虑第三种可能:x-risk 警告是真诚的,但只是错的,而且对 AI 安全适得其反。仿佛所有人都想当然地认为,那些发出警报的人是天才,唯一的问题在于他们是善良的天才还是邪恶的天才。

我们两种叙事都不认同。在关于 AI 安全的写作中,@sayashk 和我一直努力认真对待这些论点,同时驳斥许多我们认为站不住脚的说法,并突出我们认为确实存在的安全关切。这篇文章是这一工作的延续。

章节
- 我们确实在抵御灾难性和系统性风险上系统性投入不足
- Coxon 事件显示出扭曲的媒体环境如何把 x-risk 抬到比更切实的关切更高的位置
- 为什么 x-risk 的框架可能对 AI 安全政策适得其反
- 结论:AI 安全运动应该是大帐篷还是小帐篷？