Anthropic发现LLM内部隐藏的思考空间
Anthropic通过可解释性研究发现LLM内部存在隐藏词汇空间，揭示模型推理的复杂性。
Anthropic的最新研究揭示，大语言模型内部存在一个由隐藏词语构成的“J空间”。这些词虽不显示在输出中，却影响模型的推理过程，甚至出现“恐慌”等内部评论。该发现加深了我们对AI决策机制的理解。
正文摘录
本文最初发表于 The Algorithm，我们的每周 AI 通讯。如果你希望第一时间在邮箱中收到类似文章，请 [在此订阅](https://forms.technologyreview.com/newsletters/ai-demystified-the-algorithm/) 。 Anthropic——目前全球最有价值的 AI 公司，估值近 1 万亿美元——以发布古怪而令人兴奋的研究而闻名。例如，它正在研究 AI 模型[能否感受到疼痛](https://www.anthropic.com/research/exploring-model-welfare)，有时如果怀疑用户“虐待”模型，它会[中断](https://www.anthropic.com/research/end-subset-conversations)聊天对话。 Anthropic 比其他 AI 公司花费更多时间和金钱的一个细分领域叫做“机制可解释性”（mechanistic interpretability），即深入查看 AI 模型的复杂数学内部，以了解它为什么输出某个结果而非另一个。这是很复杂的东西；可能有数百万个数据点影响任何结果，而仔细梳理它们看起来更像是词语大杂烩而非有用的信息。这也颇具争议。用借自心理学和神经科学的术语来描述 AI 模型，可能会让它们的行为看起来比我们原本可能判断的更加复杂。 这就是为什么当 Anthropic [上周宣布](https://www.technologyreview.com/2026/07/09/1140293/anthropic-found-a-hidden-space-where-claude-puzzles-over-concepts/)它发现了模型在推理答案时“内部思考”的新窗口时，我必须找一位同事聊聊。