黄仁勋:AI 安全是工程问题,不需要新的监管法规
黄仁勋主张靠市场自律、不靠新法规管 AI 安全,而这番话出自 AI 热潮最大受益者之口,值得对照近期 AI 事故一起看。
Nvidia 创始人黄仁勋在 Salesforce Dreamforce 大会上表示,AI 只是人类造的软硬件,本质上是计算系统,因此安全是工程问题而非法律问题。他认为现有法律足够,市场竞争自会约束企业不发布不安全的产品,无需新增监管。
正文摘录
我们不需要 AI 监管 —— 把安全交给我们,Nvidia 的黄仁勋如是说 Nvidia 创始人兼 CEO 黄仁勋(Jensen Huang)周二在 Salesforce 技术大会 Dreamforce 上发言时,明确表达了他对 AI 所带来危险的立场。在他看来,AI 并不是某位 OpenAI 安全研究员所描述的某种 [新型的"外星心智"](https://openai.com/index/an-alien-mind/)。他说,AI 不过是硬件加软件,由人类建造。因此,他认为 AI 可以被人类和现有法律所控制。 "安全是一个工程问题,而不是法律问题,"他说。"毕竟我们开发的是软件,毕竟我们开发的是计算系统。它是一个复杂的计算系统,但归根结底,它就是一个计算系统。" 因此,他主张没有必要为治理 AI 而制定新的法律或法规。事实上,黄仁勋认为几乎完全没有必要立新法。他的论点是:自由市场本身就足以形成压力,让企业不敢发布不安全的产品。 "如果我们对产品的安全性没有信心——就像所有公司一样,就像你我一样,就像在座所有公司一样——如果你在打造一款产品或一项服务,而你对其功能、能力或安全性没有信心,那就别发布它。这是再明显不过的事,"他说。 他接着说道:"你要自己把控节奏,直到你有信心所发布的东西能得到市场认可。市场力量已经在那儿了。我们不需要任何新法律,我们不需要新法规。我们只需要企业自己决定什么时候全力冲刺。我认为,创新、速度和安全的产品……这是一个伪选择。你完全可以同时拥有两者。所以,尽管全力奔跑。但如果你在任何时刻感到公司失控了,或者产品将不安全,那就停下来,确保把它做对。" 从某些角度看,这个想法令人安心。