动态

OpenAI夏季冲刺安全,即将发布新模型,强调能力与安全同步。

Sam Altman
整个夏天,我们都在冲刺安全优先事项;能力与保障同步推进比以往任何时候都更重要。我们还有更多工作要做,但已经取得了很大进展。我们也将很快发布下一个模型。

这里有一个明显的紧张关系:一方面,Astra 非常好,我们很期待看到人们会用它构建什么。我们为自己的工作感到自豪。

另一方面,我们显然处于一个我们认为需要谨慎的发展阶段,我们正在调整进度,以确保能够满足新能力水平所需的安全标准。

Astra 已经完成训练一段时间了,在能力和对齐方面都是重大进步。对于之后的模型,我们一直在按需放慢速度,以确保我们能在安全和对齐方面做足够的工作。

AI 变得极其强大;没有人完全理解这带来的后果。管理向一个拥有丰富而强大 AI 的世界过渡,以优化安全和造福人类,应该是世界上最高优先事项之一。这也是 OpenAI 的最高优先事项。

一段时间以来,我们一直生活在既兴奋又焦虑的紧张感中,这对我们来说仍然不和谐。我们知道对其他人来说更加不和谐。然而,我们坚信世界需要了解 AI 的发展方向以及模型在现实世界中的表现。更重要的是,我们相信世界需要对齐的 AI 来管理这一过渡的未来阶段。

社会与这项技术共同演进的迭代循环,将带来最大的成功机会。

所以,我们希望你们喜欢我们的新模型,也希望世界继续极其严肃地对待 AI 正在发生的事情。
动态Sam Altman2026-09-01原文

相关内容