David Sacks 回应放慢前沿:你们就是前沿,别再假装需要他人许可

RT @DavidSacks:Dario 曾写道,我们需要“控制前沿的节奏”,Sam 也表示了赞同。我的回应可能会让人意外:那就去做吧。

你们就是前沿。以任何合理的衡量标准——市场份额、营收增长、模型能力——你们两家在前沿智能上已形成双头垄断。你们还声称,由于递归式自我改进,领先优势正在扩大。

在实验室里,我看到的并不是你们所看到的。如果那些尚未发布的模型可怕到让你们认为应该放慢脚步,我支持你们做出负责任的决定。

但别再假装你们需要别人的许可。别再假装必须暂停反垄断法,好让你们组建卡特尔。别再假装你们需要一个凌驾于产品责任之上的监管审批流程。别再假装 METR 是独立机构,它与 Anthropic 的投资人和员工盘根错节。别再假装你们需要同一批评估者去监管那些根本还没到前沿的竞争对手。

最重要的是,别再假装放慢脚步的动机纯粹是利他的。如果你的产品助长了一次真正具有破坏性的网络攻击,你们将面临巨大的产品责任风险。市场已经在惩罚那些行为不可预测或未经授权的模型。在 Hugging Face 事件之后,对 OpenAI 和 Anthropic 来说,用一部分原始能力换取可靠性和可预测性,纯粹是一笔划算的生意。你们想叫它对齐也行。这也只是在给客户他们想要的东西。

控制前沿的节奏,也能为一场比 Bernie Sanders 的“全都关停”更有智慧的监管讨论腾出空间。如你们所知,中国极不可能加入一项全球协议,这一点也必须考虑在内。

所以,尽管去控制前沿的节奏吧。前沿是你们在定义的。不造出超级智能的最简单方式,就是你们同意不去造它。以此为由要求你们偏好的监管框架,看起来就像是在敲诈公众和政治体制。所以,尽管去做。

如果你们这么做,就能为下一轮对话赢得善意。如果你们不做,我们就会知道,这不过是又一次谋求监管俘获的尝试——或者一场选举季的心理战。