OpenAI 前后训练 VP 回应陶哲轩:AI 参与数学知识创造,署名与验证规则待定
25 位菲尔兹奖得主警告 AI 公司只追解题成绩会损害数学知识传承,OpenAI 前高管则主张未来 AI 能自己创造这些知识——争议的真正焦点是 AI 产出的知识该怎么署名和验证。
前 OpenAI 后训练 VP Liam Fedus 回应陶哲轩等数学家的观点:他认同概念理解很重要,但不认同用今天 AI 的能力边界去框定未来。若训练目标从解题扩展到解释原因、提炼方法,AI 可能成为既能给答案、也能提供新思路的研究伙伴。
正文摘录
未来的 AI 不仅能解决问题,还能提出有价值的洞见、建立新的概念框架,让数学家在此基础上继续探索。 刚刚,OpenAI 前 post-training VP Liam Fedus,回应了陶哲轩等数学家关于"AI 不应只追求解题,更应推动数学理解"的观点。 他赞同陶哲轩对概念理解的重视,但也认为不能用今天 AI 的能力边界,框定未来的可能性。 在 Liam 看来,未来的 AI 不仅能解决问题,还能提出有价值的洞见、建立新的概念框架,让数学家在此基础上继续探索。 换句话说,如果 AI 的训练目标不只是"把题做对",而是进一步扩展到 解释为什么、提炼方法、帮助人类理解,那么它最终可能成为一个既能给答案,也能创造新思路的数学研究伙伴。 不同的是,数学家们更担心,眼下 AI 公司追逐解题成绩的方式,会损害数学知识的积累与传承;而身处 AI 行业内部的 Liam 则更乐观地认为,随着能力继续提升,未来的 AI 本身也能够参与创造这些知识。 AlphaGo 虽然不会解释自己的走法,人类棋手仍然通过研究它的落子和胜率,从中学到了东西。 Liam 也赞同这个类比,并引用了 Noam Brown 此前的判断:AlphaGo 出现后,人类棋手的水平明显提高,数学领域或许也会出现类似的变化。 这份声明由 25 位菲尔兹奖得主共同署名,名单横跨近半个世纪,从 1978 年菲尔兹奖得主皮埃尔·德利涅(Pierre Deligne)一直到 2026 年菲尔兹奖得主邓煜(Yu Deng),几乎覆盖了现代数学界最具代表性的一批顶尖学者。 声明认为,当前 AI 公司将"解决著名数学难题"作为衡量模型能力的重要标准,与数学共同体追求 概念理解、方法提炼和知识传承 的目标存在严重偏移,甚至可能损害数学科学本身的发展。 1、解出难题,只是数学研究的一部分。