2012年NeurIPS赌场故事,Hinton与学生的转折点
2012年冬天,内华达州太浩湖畔,一家赌场。
楼下,赌徒们拉着老虎机,每赢一万美元,铃声大作。楼上,一群搞机器学习的研究者正在开会——这是当年的NeurIPS,没人愿意赌钱,赌场恨死他们了。
但赌场不知道的是,楼上正在进行一场更大的赌博。一个64岁的教授和他的两个学生,正在把自己"卖"给出价最高的买家。每次加价一百万美元。
这三个人后来被称为"深度学习三巨头"中的核心力量。那个教授叫Geoffrey Hinton,刚刚拿了诺贝尔奖。他的两个学生,一个叫Ilya Sutskever,后来创办了OpenAI又离开了;另一个叫Alex Krizhevsky,他在父母家的卧室里训练出了一个叫AlexNet的东西,让整个世界意识到:深度学习真的有用。
楼下,赌徒们拉着老虎机,每赢一万美元,铃声大作。楼上,一群搞机器学习的研究者正在开会——这是当年的NeurIPS,没人愿意赌钱,赌场恨死他们了。
但赌场不知道的是,楼上正在进行一场更大的赌博。一个64岁的教授和他的两个学生,正在把自己"卖"给出价最高的买家。每次加价一百万美元。
这三个人后来被称为"深度学习三巨头"中的核心力量。那个教授叫Geoffrey Hinton,刚刚拿了诺贝尔奖。他的两个学生,一个叫Ilya Sutskever,后来创办了OpenAI又离开了;另一个叫Alex Krizhevsky,他在父母家的卧室里训练出了一个叫AlexNet的东西,让整个世界意识到:深度学习真的有用。
深度学习先驱 Geoff Hinton 与 Google 首席科学家 Jeff Dean 在顶会NeurIPS进行了一场深度对话。
两位专家回顾了现代人工智能的发展史,特别是算法创新与计算算力相结合如何促成了 AlexNet 等里程碑式的突破。
他们回顾了 Google Brain 团队的创立过程、Transformer 架构的演进,以及 Gemini https://t.co/r0OzJvYQGX