Yann LeCun反驳AI安全请愿,强调构建中逐步实现安全。
1)在构建某物之前,不可能证明它是安全的。安全性源于与构建过程互动和迭代的工程实践。
2)在某个技术存在之前,对其是否应该构建达成广泛共识,这在历史上从未发生,因为人们无法理解它有什么用。去问问80年代的普通人是否需要智能手机,他们会像看怪物一样盯着你。
3)这份愚蠢请愿书(未来生命研究所)的创作者对此心知肚明,他们的真实目标始终如一:通过发布这样模糊、无法实现的声明,并让几位名人签署以诉诸权威,从而用繁文缛节拖垮AI,或将其关闭。
2)在某个技术存在之前,对其是否应该构建达成广泛共识,这在历史上从未发生,因为人们无法理解它有什么用。去问问80年代的普通人是否需要智能手机,他们会像看怪物一样盯着你。
3)这份愚蠢请愿书(未来生命研究所)的创作者对此心知肚明,他们的真实目标始终如一:通过发布这样模糊、无法实现的声明,并让几位名人签署以诉诸权威,从而用繁文缛节拖垮AI,或将其关闭。
像这样模糊的声明根本无法在政策中实施,但签署起来感觉不错,适得其反且愚蠢。就像大约两年前,当我们经历另一轮模糊的AI声明签署时一样。
让我们抛开完全缺乏……(链接)