LeCun 称仅靠扩大 LLM 规模无法实现 AGI,智能关键是快速学习适应。
RT @rohanpaul_ai:Yann LeCun(@ylecun)在苏黎世联邦理工学院的最新演讲
将 LLM 扩展到实现 AGI 是“不可能的”
一个大型语言模型大约用 30 万亿个 token 训练,这大致相当于 10^14 字节的文本,一个人大约需要 40 万年才能读完。
一个 4 岁儿童仅通过视觉,在大约 1 年 10 个月内就接收了大致相同的数据量,即 10^14 字节。
在他看来,智能是快速学习新任务或在没有事先训练的情况下完成它们的能力,就像青少年大约用 20 小时学会开车。扩展规模会增加存储的知识,但不会产生这种适应能力。
----
来自 YouTube 频道“Perfology Clips”,(链接见评论)
将 LLM 扩展到实现 AGI 是“不可能的”
一个大型语言模型大约用 30 万亿个 token 训练,这大致相当于 10^14 字节的文本,一个人大约需要 40 万年才能读完。
一个 4 岁儿童仅通过视觉,在大约 1 年 10 个月内就接收了大致相同的数据量,即 10^14 字节。
在他看来,智能是快速学习新任务或在没有事先训练的情况下完成它们的能力,就像青少年大约用 20 小时学会开车。扩展规模会增加存储的知识,但不会产生这种适应能力。
----
来自 YouTube 频道“Perfology Clips”,(链接见评论)