LeCun 称 LLM 主要是信息检索系统,而非真正思考

RT @realBigBrainAI:AMI Labs 执行主席 Yann LeCun 解释了为什么 LLM 主要是在检索人类知识,而不是自己思考:

LeCun 首先谈到为什么这么多人误读了这些系统正在做的事:

"我认为确实存在很多困惑,因为我们倾向于把能够复现某些人类功能的系统拟人化。"

当 AI 写出流畅的答案时,我们以为背后有一个心智。LeCun 的观点是,我们看到的大部分东西其实更常见:

"在某种程度上,除了少数领域之外,LLM 主要就是信息检索系统。它们可以压缩大量此前由人类产生的事实性知识,并让人们轻松获取。"

关键词是"此前由人类产生"。

LLM 中的知识来自人。系统所增加的是压缩和便捷获取。

这使 LLM 处于一条悠久的历史脉络中:

"在某种意义上,它是印刷机、图书馆、互联网和搜索引擎的自然演进。对,它只是访问信息的一种更高效方式。"

@ylecun 对它们的价值很明确:

"LLM 极其有用,这一点毫无疑问。而且它们确实放大了人类智能,就像 20 世纪 40 年代以来的计算机技术一样。"

他也承认,在少数领域,比如生成代码和某些类型的数学,能力似乎超出了检索。但他指出这些领域的共同点:

"在很大程度上,这仍然是推理与符号操作有关的领域。"

这正是检索框架显出局限的地方。如果这些系统真的在独立思考,你会预期这种能力延伸到物理世界。但它没有:

"问题在于,为什么我们有能通过律师资格考试、赢得数学奥林匹克竞赛的系统,却没有家用机器人,甚至没有自动驾驶汽车。"

接着是他最尖锐的对比:

"而且我们肯定没有那种能像任何 17 岁少年一样,在 20 小时练习中自学开车的自动驾驶汽车。所以,我们仍然缺少某个重要的东西。"