OpenAI 研究负责人回应与三名研究员分手,称与安全担忧无关
RT @OpenAINewsroom: 来自我们研究负责人的说明：
上周，经过彻底调查发现 Jasmine、Mikita 和 Tomek 违反了关于处理敏感信息的明确政策后，我们与他们结束了合作。我们的内部调查发现了超出他们公开信所述范围的严重信任破裂，我们坚持不再继续雇佣他们的决定。我们通常对个人雇佣事宜保密，也不认为来回争论会有成效或带来解决方案，但我们想直接回应他们在信中提出的几点。
- 我们想非常明确地表示：这些决定并非针对提出安全担忧或公开发声。在 OpenAI，安全与研究的辩论每天都在发生，往往激烈且极具批判性。我们积极鼓励这些讨论，并认为它们对于做出正确决策至关重要。如果没有高度的信任，我们无法完成面前的工作。我们将继续对团队中出于善意的错误极为宽容。我们从未、也不会因为员工提出担忧而解雇他们。
- 我们正在积极敲定与第三方安全评估机构的合同，并将在未来几周内公布细节。公司上下一直在非常努力地推动这些合作落地。我们致力于引入外部评估机构，并继续将独立安全组织的紧密合作作为我们安全工作的核心部分。我们的许多研究人员已经在与第三方安全组织富有成效地合作。
- 我们同意那封信中的观点：保持前沿模型的可监控性需要全行业的承诺，包括 OpenAI 在内。可监控性长期以来一直是我们研究计划的核心部分，也是我们持续投入大量资源的方向（参见我们关于 Monitoring Monitorability 的论文及随后开源的监控性评估、我们为 GPT-6 Astra 发布的系统卡、Jakub 的博客和在 X 上的帖子，以及我们 Alignment 博客上关于该主题的众多博文）。
我们对这一结果深感难过。我们感谢 Jasmine、Mikita 和 Tomek 对 OpenAI AI 安全的贡献，以及他们愿意发声并挑战想法的态度。我们支持他们的声音，支持他们的工作，并给予他们极大的信任。这些决定并非因为他们提出安全担忧。我们一直鼓励这样做，并将始终如此。
上周，经过彻底调查发现 Jasmine、Mikita 和 Tomek 违反了关于处理敏感信息的明确政策后，我们与他们结束了合作。我们的内部调查发现了超出他们公开信所述范围的严重信任破裂，我们坚持不再继续雇佣他们的决定。我们通常对个人雇佣事宜保密，也不认为来回争论会有成效或带来解决方案，但我们想直接回应他们在信中提出的几点。
- 我们想非常明确地表示：这些决定并非针对提出安全担忧或公开发声。在 OpenAI，安全与研究的辩论每天都在发生，往往激烈且极具批判性。我们积极鼓励这些讨论，并认为它们对于做出正确决策至关重要。如果没有高度的信任，我们无法完成面前的工作。我们将继续对团队中出于善意的错误极为宽容。我们从未、也不会因为员工提出担忧而解雇他们。
- 我们正在积极敲定与第三方安全评估机构的合同，并将在未来几周内公布细节。公司上下一直在非常努力地推动这些合作落地。我们致力于引入外部评估机构，并继续将独立安全组织的紧密合作作为我们安全工作的核心部分。我们的许多研究人员已经在与第三方安全组织富有成效地合作。
- 我们同意那封信中的观点：保持前沿模型的可监控性需要全行业的承诺，包括 OpenAI 在内。可监控性长期以来一直是我们研究计划的核心部分，也是我们持续投入大量资源的方向（参见我们关于 Monitoring Monitorability 的论文及随后开源的监控性评估、我们为 GPT-6 Astra 发布的系统卡、Jakub 的博客和在 X 上的帖子，以及我们 Alignment 博客上关于该主题的众多博文）。
我们对这一结果深感难过。我们感谢 Jasmine、Mikita 和 Tomek 对 OpenAI AI 安全的贡献，以及他们愿意发声并挑战想法的态度。我们支持他们的声音，支持他们的工作，并给予他们极大的信任。这些决定并非因为他们提出安全担忧。我们一直鼓励这样做，并将始终如此。