Anthropic与美政府限制AI访问引发主权讨论
过去两周，美国政府和Anthropic都采取了重大行动，展示了他们通过限制其他人对前沿模型的使用来控制AI访问的能力。这是一个一旦看到就难以忽视的时刻，它正在显著加速许多企业和国家确保可靠访问AI（且无人能终止）的努力。
Anthropic首先发布了Claude Fable 5，这是其Mythos模型的一个版本，增加了额外的护栏，包括一些基于安全理由似乎合理的限制（例如限制将其用于黑客攻击、生物武器等）。然而，它还限制了开发者使用它构建竞争性LLM技术的能力。这一举动令人担忧，因为整个AI社区，包括Anthropic，都从开放研究中受益匪浅——事实上，AI革命是由我之前的团队（Google Brain）自由发布Transformer论文引发的！
想象一下，如果微软的使用条款禁止任何人使用他们的工具构建竞争性软件，或者谷歌禁止使用它搜索信息以从事竞争性搜索引擎的工作。Anthropic关于他人无法在AI领域取得进展是不安全的论点也显得空洞。最初，Anthropic通过隐形干预（在不通知用户的情况下削弱模型输出）悄悄降低了被检测到从事LLM研究的用户的Fable 5性能。在遭到强烈反对后，它撤销了这一决定，并决定在这样做时保持透明，但仍然拒绝使用其最新能力来帮助AI研究人员。
这一举动代表了Anthropic赤裸裸的权力展示。它利用“安全”论据来阻碍潜在竞争对手。平台只有在被视为稳定、可靠的合作伙伴时才能成功。Anthropic突然的规则变化（包括对Fable使用强制30天数据保留政策）让开发者怀疑不仅限于Anthropic，任何专有LLM提供商的构建稳定性。
美国政府随后不久展示了更大的权力。它利用商务部的权力来管制可能构成国家安全威胁的技术，限制Mythos和Fable的出口，要求任何外国国民（无论在美国境内还是境外，包括Anthropic员工）使用都需要许可证。这导致Anthropic禁用了全球所有用户对Fable的访问。
Sam Altman指出（指Anthropic）：“说‘我们造了一颗炸弹，马上就要扔到你头上。我们将以1亿美元的价格卖给你一个防空洞’显然是极其出色的营销。”但当人们进行这种基于恐惧的营销时，会增加美国政府同意你的观点并对你声称制造的炸弹实施出口管控的可能性。
明确地说，我不认为Anthropic制造了任何类似炸弹的东西，我也不认为对Fable的出口管控是合适的。
然而，在美国政府采取这一举措后，许多国家，包括美国盟友，都看到了美国如何能突然切断他们对AI模型的访问。在世界各地的许多首都，这引发了关于AI主权以及如何确保这一关键技术不受中断的讨论。
几十年来，许多国家习惯于让供应链的多个部分依赖美国、中国和其他主要生产国。一旦一个国家发出威胁或采取行动限制其他国家的访问，其他国家会理性地寻求替代方案。几十年来，中国的半导体制造进展缓慢；一旦美国限制中国的访问，中国的努力就进入了高速档。类似地，一旦中国威胁美国获取稀土矿物，美国确保替代方案的努力就加速了。现在，私人公司...
Anthropic首先发布了Claude Fable 5，这是其Mythos模型的一个版本，增加了额外的护栏，包括一些基于安全理由似乎合理的限制（例如限制将其用于黑客攻击、生物武器等）。然而，它还限制了开发者使用它构建竞争性LLM技术的能力。这一举动令人担忧，因为整个AI社区，包括Anthropic，都从开放研究中受益匪浅——事实上，AI革命是由我之前的团队（Google Brain）自由发布Transformer论文引发的！
想象一下，如果微软的使用条款禁止任何人使用他们的工具构建竞争性软件，或者谷歌禁止使用它搜索信息以从事竞争性搜索引擎的工作。Anthropic关于他人无法在AI领域取得进展是不安全的论点也显得空洞。最初，Anthropic通过隐形干预（在不通知用户的情况下削弱模型输出）悄悄降低了被检测到从事LLM研究的用户的Fable 5性能。在遭到强烈反对后，它撤销了这一决定，并决定在这样做时保持透明，但仍然拒绝使用其最新能力来帮助AI研究人员。
这一举动代表了Anthropic赤裸裸的权力展示。它利用“安全”论据来阻碍潜在竞争对手。平台只有在被视为稳定、可靠的合作伙伴时才能成功。Anthropic突然的规则变化（包括对Fable使用强制30天数据保留政策）让开发者怀疑不仅限于Anthropic，任何专有LLM提供商的构建稳定性。
美国政府随后不久展示了更大的权力。它利用商务部的权力来管制可能构成国家安全威胁的技术，限制Mythos和Fable的出口，要求任何外国国民（无论在美国境内还是境外，包括Anthropic员工）使用都需要许可证。这导致Anthropic禁用了全球所有用户对Fable的访问。
Sam Altman指出（指Anthropic）：“说‘我们造了一颗炸弹，马上就要扔到你头上。我们将以1亿美元的价格卖给你一个防空洞’显然是极其出色的营销。”但当人们进行这种基于恐惧的营销时，会增加美国政府同意你的观点并对你声称制造的炸弹实施出口管控的可能性。
明确地说，我不认为Anthropic制造了任何类似炸弹的东西，我也不认为对Fable的出口管控是合适的。
然而，在美国政府采取这一举措后，许多国家，包括美国盟友，都看到了美国如何能突然切断他们对AI模型的访问。在世界各地的许多首都，这引发了关于AI主权以及如何确保这一关键技术不受中断的讨论。
几十年来，许多国家习惯于让供应链的多个部分依赖美国、中国和其他主要生产国。一旦一个国家发出威胁或采取行动限制其他国家的访问，其他国家会理性地寻求替代方案。几十年来，中国的半导体制造进展缓慢；一旦美国限制中国的访问，中国的努力就进入了高速档。类似地，一旦中国威胁美国获取稀土矿物，美国确保替代方案的努力就加速了。现在，私人公司...