Anthropic与国防部冲突，警示AI未来成为劳动力核心，需思考问责与对齐问题。

Anthropic与国防部之间的冲突是一个警告信号。目前，LLM可能还没有被用于关键任务，但在20年内，军队、政府和私营部门99%的劳动力将是AI。这包括士兵（我指的是机器人军队）、超智能顾问和工程师、警察等等。我们未来的文明将依靠AI劳动力运行。尽管政府的行为让我生气，但从某种意义上说，我很高兴发生了这件事——因为它让我们有机会思考一些极其重要的问题：未来的劳动力将对谁负责、与谁对齐，以及由谁来决定。赫格塞斯本应做什么？显然，国防部有权因为红线拒绝使用Anthropic的模型。事实上，我认为政府如果这样做是非常合理的，尤其是考虑到自主武器或大规模监控等概念的模糊性。老实说，如果我是国防部长，我可能真的会拒绝与Anthropic做这笔交易。想象一下，未来如果有一个民主党政府，而埃隆·马斯克正在谈判一些SpaceX合同，让军方使用星链。假设埃隆说：“如果我认定你们正在利用星链技术发动国会未授权的战争，我保留取消合同的权利。”从表面上看，这种措辞似乎合理——但作为军方，你绝不能让一家私营公司拥有你所依赖技术的“关停开关”，尤其是当你与这家承包商关系紧张且信任度低时——正如Anthropic与现任政府的关系。如果政府只是说：“嘿，我们不跟你们做生意了”，那也没问题，我也没必要写这篇博客。但相反，政府威胁要摧毁Anthropic作为一家私营企业，因为Anthropic拒绝按照政府命令的条款向政府出售产品。如果这一供应链限制成立，意味着亚马逊、谷歌、英伟达和Palantir需要确保克劳德不接触他们任何五角大楼的工作。今天，Anthropic或许能应对这一指定。但考虑到AI的发展方向，最终AI不会只是这些承包商产品中可以被关掉的“把戏”，它将融入每个产品的构建、维护和运营。例如，国防部使用的AWS服务代码将由克劳德编写——这是供应链风险吗？在一个AI无处不在且强大的世界里，我不确定这些大型科技公司能否为了继续与五角大楼合作而完全隔离克劳德的使用。这引发了一个国防部可能没有想透的问题。如果AI真的如此普遍且强大，那么当被迫在AI提供商和只占其收入一小部分的国防部合同之间做选择时，大多数科技公司难道不会放弃政府，而不是AI？那么五角大楼的计划是什么——胁迫并威胁要摧毁每一家不愿完全按他们条件办事的公司？整个AI讨论的背景是我们在与中国竞争，我们必须赢。但我们希望美国赢得AI竞赛的原因是什么？是为了确保自由开放的社会能够自卫。我们不希望AI竞赛的赢家是一个奉行“没有真正的私营公司或公民”原则的政府。如果国家要求你以你认为道德上不可接受的条件提供服务，你不能拒绝。如果你拒绝，政府就会试图摧毁你的商业能力。我们是在竞相击败中共吗？