OpenAI 发布前沿模型 Sol，政府审批流程仍不透明
政府如何决定前沿 AI 模型可以公开发布？答案是：流程不透明，连内部人士都不清楚具体标准。
OpenAI 正在向公众推出其最新的高级大语言模型 Sol，能力至少与 Anthropic 的 Fable 相当。但它是如何获得政府放行的？没人说得清。研究人员、前政策顾问甚至实验室员工都表示不了解审批流程。
正文摘录
OpenAI 前沿模型获准发布，政府是如何评估其安全性的？ OpenAI 正将其最新的高级 LLM（Large Language Model，大型语言模型）Sol 向公众广泛开放。Sol 被认为至少与 Anthropic 的 Fable 实力相当——后者因其能力（或所有权）曾让白宫倍感压力，并一度被禁止公开访问。 那么，这些模型是如何获得发布许可的？简答：没人完全说得清。 “坦率地说，我对那些具体流程并不知情，所以我觉得自己掌握的信息不足以判断它们是否充分，”乔治城大学安全与新兴技术中心高级研究分析师 Mina Narayanan 告诉 TechCrunch。“Anthropic 确实说过他们与政府有过对话，并且开发了一个分类器来检测越狱尝试（jailbreak attempts，指试图绕过模型安全限制的行为），还实施了纵深防御策略来防止未来的越狱，但政府与 Anthropic 和 OpenAI 之间的对话具体是什么样子，并不清楚。” 曾担任特朗普政策顾问、现在为 OpenAI 工作的 Dean W. Ball 上个月在其 newsletter 中[写道](https://www.hyperdimensional.co/p/what-should-be-done)：“没人知道获得许可需要满足什么要求”。 计算机科学家、Databricks、Perplexity 和 Laude Institute 的联合创始人 Andy Konwinski 表示，他从未与任何了解该流程的人交谈过，即使在前沿实验室（frontier labs）工作的员工也不例外。“这从根本上看是个问题，”他告诉 TechCrunch。“无论安全与否，关键在于谁拥有决策权——谁来把关并决定许可？