转推:LLM 长链思维不等于真正推理,应借鉴 AlphaGo 的可审计推理架构

RT @ThoreG:十年前,AlphaGo 的第 37 手震惊了世界。

这并不只是直觉的产物。AlphaGo 能够搜索各种可能的未来,检验自己的直觉,并对接下来会发生什么进行推理。

在 @techreview 的一篇新文章中,我提出:当今最先进的 AI 系统仍然缺少某种根本性的东西。

LLM 的能力固然惊人,但生成长链思维并不等于真正的推理。它们通常没有明确、可检视的记录,来说明自己知道什么、哪些仍不确定、哪些证据支持某个结论,或者是否取得了真正的进展。

这就是我最近离开 @GoogleDeepMind 的原因。我认为我们需要一种全新的机器推理方法,借鉴 AlphaGo 的一些架构经验。

如果 AI 要在科学、医学等领域产生可信且真正新颖的洞见,我们需要这样的系统:其结论来自一个可审计的证据、推断与信念修正过程。