Sam Altman 谈前沿 AI 安全：需安全论证、监控与节奏控制，呼吁联邦协调。

世界理应相信，开发日益强大 AI 的美国公司会负责任地行事，尤其是在进展轨迹愈发陡峭之际。每一家前沿实验室都必须做到这一点，否则我们任何人都没有理由来上班。

我们欢迎一个为前沿 AI 设定一致安全要求的联邦框架。但我们不认为需要等待反垄断豁免或立法，才开始着手提供这种信心。用一致的规则管理前沿风险、以便最大化收益，是个好主意（我们也对独立审计员之类的想法感到兴奋）。

多年前，像我们这样的公司制定了负责任扩展政策（Responsible Scaling Policies）和准备框架（Preparedness Frameworks）等机制。那些机制适合当时，主要关注已完成模型的部署，而非模型开发过程中发生的事情。

如今转向关注安全开发与评估，将需要新工具。例如，在 OpenAI，除了我们长期以来在模型发布前所做的安全工作外，我们现在还会在预期会显著提升能力的前沿强化学习运行之前，提前制定明确的安全论证（safety cases）。

我们希望其他公司能从我们的方法中学习，并提出自己的方法；我们认为，针对失准、监控和安全的共享标准会带来更好的结果。我们期待与业界同行合作，制定出这些标准的最佳版本。

当我们谈论“节奏控制”（pacing）时，我们并不是指“停止”。进展一直很快，并将继续如此。但它应该比原本可能的速度更慢；像安全论证和监控这样的干预措施有显著成本。

节奏控制完全值得付出这种成本；任何程度的美国竞争压力都不应成为鲁莽行事的理由，也不应让能力发展超前于对齐和监控。

我们需要政府帮助的地方在于国际协调。但首先，我们应该尽自身所能。