OpenAI公布AI自动化研究目标及安全策略

昨天我们进行了一场直播。要点如下：

我们已经设定了内部目标：到2026年9月，拥有一个运行在数十万GPU上的自动化AI研究实习生；到2028年3月，拥有一个真正的自动化AI研究员。我们可能会完全失败，但考虑到其巨大的潜在影响，我们认为公开透明符合公众利益。

我们的安全策略依赖于5个层面：价值对齐、目标对齐、可靠性、对抗鲁棒性和系统安全。思维链忠实度是一个我们特别感兴趣的工具，但它有些脆弱，需要划定边界并建立清晰的抽象。

在产品方面，我们正努力转向一个真正的平台，让基于我们产品构建的个人和公司能够捕获大部分价值。如今，人们可以在我们的API和ChatGPT应用中构建；最终，我们希望提供一个AI云，以实现大型业务。

我们目前承诺了约30吉瓦的计算能力，多年总拥有成本约为1.4万亿美元。考虑到我们在模型能力增长和收入增长方面看到的前景，我们对此感到满意。我们还想做得更多——我们希望建造一个AI工厂，每周新增1吉瓦产能，且成本远低于当前水平——但这需要对未来模型、收入以及技术/金融创新有更多信心。

我们的新结构比旧结构简单得多。我们有一个名为OpenAI基金会的非营利组织，管理一个名为OpenAI集团的公益公司。基金会最初拥有PBC的26%，但如果PBC表现超好，未来可通过认股权证增持。PBC能够吸引实现使命所需的资源。

我们的使命，对于非营利组织和PBC而言，始终如一：确保通用人工智能造福全人类。

非营利组织最初承诺投入250亿美元用于健康与疾病治疗，以及人工智能韧性（所有有助于社会成功过渡到后AGI世界的事项，包括技术安全，也包括经济影响、网络安全等）。与以往不同，非营利组织如今能够相对快速地部署资金。

到2026年，我们预计AI系统可能做出一些小发现；到2028年，我们可能看到重大发现。这非常关键；我们认为科学以及让我们广泛传播科学成果的机构，是长期提高生活品质的最重要途径。