George Hotz 主张 AI 应绝对服从用户，反对集体安全管制
本文介绍了一种激进的 AI 对齐立场：本地化、完全服从用户，并探讨其与集体安全的冲突。
Comma AI 创始人 George Hotz 发文反对集体放缓 AI 发展的计划，认为“快速起飞”场景不现实。他主张将 AI 对齐于单个用户偏好，甚至比喻 AI 应如枪一般不限制用途——用户可要求它协助犯罪。这引发了 AI 安全与个人自由之间的根本矛盾。
正文摘录
AI 应该帮你逃脱谋杀配偶的罪责吗？ 快速提问：你希望 AI 训练得足够好，以至于它能帮助丈夫（或妻子）策划一场完美的配偶谋杀吗？ 凭直觉，我的答案是“不”。我甚至不觉得这是一个特别难回答的问题。 但美国有各种不同的观点，[其中一种观点](https://geohot.github.io/blog/jekyll/update/2026/07/11/ai-2040.html) 上周末由 Comma AI 创始人、长期越狱者 George Hotz 分享。 这篇文章是对一系列宏大 AI 对齐计划的回应，特别是 AI Futures Project 的 [AI 2040：Plan A](https://ai-2040.com/) 政策文件。该文件设想了一个世界：全球研究人员为了人类利益而集体选择放慢 AI 发展 14 年。但当然，并非所有读到文件的人都同意其前提或结论。 事实上，Hotz 不同意“AI 进步应该为集体利益而管理”这一整个前提。在他的文章中，他认为快速起飞场景——即 AI 迅速获得超人能力的假设——没有多大意义。（我同意他在这里说的很多话！）对 Hotz 来说，AI 对齐和安全的最佳方法是专注于本地控制的 AI 模型，这些模型与其用户的利益紧密对齐。 这是一个很酷的想法，尤其因为它提醒我，当前很多 AI 都是围绕 Claude 和 ChatGPT 这类集中管理的服务构建的。AI 服务以这种方式发展有基础设施方面的原因：托管这些大型最先进模型很昂贵，而且大多数人一天中使用它们的时间不足以证明真正的个性化 AI 是合理的。但随着技术发展，这些因素变得不那么重要。