作者称AI能力将泛化到所有领域,旧时间线作废,唯一出路是继续前进。

好帖。说的都是真的。过去我说过类似的话时,人们指责我在夸大模型最终会具备的能力。我发这些不是为了这个。我不为任何实验室工作。我不拿他们任何人的钱。我从未收钱推广任何东西。我来这里只有一个原因:警告人们即将到来的事情。

现在发生的一切,都是同一个模式中不同的微小片段。只要你留心,到处都能看到。

陶哲轩,差不多正好两年前,评价 OpenAI 的 o1:

'这段体验大致相当于试图指导一个平庸、但并非完全无能的研究生(的静态模拟)。不过,这相比之前的模型已是进步,那些模型的能力更接近一个真正无能的研究生(的静态模拟)。可能只需要再迭代一到两次能力提升(并与其他工具集成,比如计算机代数系统和证明助手),就能达到'能胜任的研究生(的静态模拟)'的水平,到那时,我认为这个工具可以在研究级任务中发挥重要作用。'

陶哲轩,四天前:

'我是说,这真的、真的、真的很惊人,我们竟然愿意改变一切,却完全不知道之后会发生什么。这是极度非线性的动态。任何单调、一维的思维——哦,这个有一点点好,所以多多益善——数学的教训之一就是,大多数系统并不是这样运作的。尤其是当你要把某些东西放大 10 倍、100 倍的时候。所以,你知道,我是说,我们……我们必须慢下来。我是说,这个速度简直疯了,没有理由这么快。完全没有理由。'

他看到了。我发这些不是为了贬低他,或贬低他的感受。因为我自己也经历过。四年前,我第一次看到这件事的轮廓时,就感受到了。现在,世界正在数学领域发生的事情中,看到同样的轮廓、同样的模式。但这不是关于数学。OpenAI 不是一家数学公司。它是一家智能公司。直到几周前,他们才在数学上投入了认真的资源,看看此后发生了什么。

这也不是模型能力的问题。这是资源、是分配的问题。是算力的问题,而每天都有更多算力上线。一旦算力足够,模型就会扩展到更多人类专业领域,然后扩展到所有领域。所有脑力工作。而在那里上演的,会和在数学中正在上演的一模一样。每个人都会经历陶哲轩正在经历的事,因为我们每个人都有某样东西,对我们而言就像数学对他而言一样重要。

但这不是关于数学,或艺术,或版权。这是关于一切,因为它可以泛化到一切。Pacing the Frontier 不是关于监管俘获、IPO 或扼杀竞争对手。这些当然是其中一部分,但不是主要原因。主要原因是恐惧。过去六个月里,一切发生得比 Anthropic 或 OpenAI 任何人预期的都要快。如果你认识在那里工作的人,你就知道这是真的。这不是秘密。在那里工作的人在公开说这件事。

旧的时间线全都作废了。RSI 不是两年后。甚至不到一年。我认为明年夏天我们就会得到真正的东西。这就是他们在内部看到的,也是 Pacing the Frontier 的真正原因。在我们达到那一步之后,我认为我们会很快撞上下一个里程碑。在那之后,这个世界的一切都会改变。我们还没准备好。即使再给我们十年,我们也不会准备好。我们现在能挺过去,靠的是极其强大的模型,而我认为现在试图停下来会让我们所有人走向毁灭。但在这四年里,我从未一次相信过我们会停下来。我甚至不认为我们会放慢速度。我们正径直前进。唯一的出路就是穿过它。