Claude Code 不足以构建 AI 系统，AI21 Labs 提出工程化潜意识
AI21 Labs 指出，AI 系统构建不能只靠代码补全工具，需重视模型训练和运行中的“潜意识”知识工程。
AI21 Labs 认为，像 Claude Code 这样的代码生成工具只能处理表面任务。真正的 AI 系统构建需要“工程化潜意识”——模型训练和推理中隐含的、未明确编码的知识与流程。文章讨论为何依赖单一工具不够，以及如何设计更全面的工程框架。
正文摘录
TL;DR AI 开发的瓶颈已经转移。它不再是关于将自然语言翻译成代码，而是关于将人类的潜意识翻译成有意识的规范。 软件开发的终结 几十年来，我们以为编码是最难的部分。产品经理写一份 PRD，开发者需要几周时间才能将其变成可工作的软件。现在，借助 Claude Code 或 Cursor 这样的工具，你可以在几分钟内从自然语言变成 Python。 当然，每个人都在谈论软件开发的终结，但我们并没有真正移除瓶颈，只是把它挪了个地方。而新的瓶颈更加棘手，尤其是当产品本身是 AI 时，比如一个内部知识代理或客户支持聊天机器人。 今天的问题不是 如何 告诉计算机做某件事。问题是人类实际上并不知道 他们想要计算机做什么。 “看到就知道了”悖论 1964 年，大法官 Potter Stewart 用一句话定义了硬核色情：“我看到就知道了。” 这正是人类体验软件需求的方式。我们极不擅长生成抽象规则，但非常擅长批评具体的例子。 如果你让业务相关方定义客户服务聊天机器人的需求，他们会写出泛泛的陈词滥调：“要有礼貌且专业。” 但当代理给出干巴巴的机器人式回答时，他们会立刻尖叫：“不！不是这样的！” 这就是代理时代的核心摩擦：我们试图用有限的线性指令来定义无限的、递归的行为系统。 “Dwight”谬误：数据 ≠ 上下文 我们 感觉到 的和我们 能明确说明 之间的差距，正是为什么那些天真的 AI 方法——比如“给它更多数据”——总是失败的原因。 想想 Dwight Schrute，这位传奇员工了解组织的一切：历史、政治、捷径和《太空堡垒卡拉狄加》。在一次办公室枪击事故后，Dwight 辞职去了 Staples，管理层说：“我们来建一个 Dwight 机器人吧。只要把他 20 年的邮件都灌进 RAG 里。