Elad Hazan 回顾在线凸优化二十年：从 ONS 到 AdaGrad
在线凸优化的 regret 最小化思路如何一路演化成 AdaGrad 等现代训练主力工具，由亲历者复盘二十年脉络。
在线凸优化（OCO，一种每轮先做决策、事后才看到损失的优化框架，目标是总损失接近事后最优的固定决策）二十年前还是理论计算机、机器学习与优化交叉处的小方向。如今它的 regret 最小化、自适应更新等思路已进入现代 AI 的核心方法体系。普林斯顿教授 Elad Hazan 撰文回顾这条技术脉络。
正文摘录
.jpg) 二十年前，在线凸优化（Online Convex Optimization，OCO）还是理论计算机、机器学习与优化交界处的一个年轻方向。今天再看，它所形成的 regret minimization、自适应更新和在线决策框架，已经深刻影响现代机器学习。从 Online Newton Step、AdaGrad，到 bandit optimization、在线控制和序列建模，OCO 的许多思想逐步进入 AI 的核心方法体系。 如今，AI 与数学的关系也走到了一个新的节点。9 月，陶哲轩与另外 24 位菲尔兹奖得主联名发表《A Severe Misalignment of AI in Mathematics》，引发数学界对 AI、数学研究价值和学术生态的广泛讨论。随着 AI 在搜索、推导和证明上的能力迅速提升，一个越来越现实的问题浮现出来：当机器能够解决更多数学问题，数学家的核心价值将体现在哪里？ 普林斯顿大学教授 Elad Hazan 最近写了一篇回顾在线凸优化二十年发展的文章。从 universal portfolio、Online Newton Step 和 AdaGrad，到在线控制、spectral filtering 与新的神经网络架构，他以自己的研究经历串起了 OCO 与现代 AI 之间的一条重要技术脉络。