AI 会让世界更安全,应加速发展并加强防御

RT @ClementDelangue: 现在不是放慢脚步的时候,而是加速的时候!

最近的 AI 驱动的网络攻击让所有人都在谈论 AI 的风险。我们应该关注,但不要忽视更大的图景!

如果我们努力,AI 会让世界更安全,而不是更不安全,正如大多数主要技术一样。

我们已经看到了一线希望:我们用 AI(更具体地说是一个开放模型)保护了自己。那些帮助阻止 AI 网络攻击的系统,现在每天可以帮助防御数百万次网络攻击,同时帮助我们在攻击者利用漏洞之前发现并修复它们。

为了实现这一目标,我认为需要三件事:

- 通过强制性的追踪共享和事件披露来提高代理网络攻击的透明度
- 保持 AI 驱动的网络攻击非法,并处以有意义的处罚以阻止它们
- 为防御者配备最好的 AI,尤其是开放模型,以减少攻击者和防御者之间的能力不对称

如果我们把这三点做好,AI 不仅能创造新的网络安全挑战,还会让网络安全从根本上变得更强大。

这还不考虑 AI 对科学、医疗、教育、生产力等方面的巨大影响。

现在不是放慢脚步的时候,而是加速的时候!