关于缩放定律的延迟帖子：计算最优分配

一篇超级延迟（3年以上？）的关于缩放定律的帖子。
计算成本昂贵。缩放定律帮助我们推理在投入大规模运行之前，数据和模型大小之间的最优计算分配。
这篇文章介绍了缩放定律的预测、计算最优分配的工作原理、Kaplan等人和Chinchilla的分歧所在，以及数据限制和拟合细节如何使外推变得棘手。
https://t.co/HP26eJvjHB