跨数据中心训练新方法Decoupled DiLoCo

这是Decoupled DiLoCo：我们跨多个数据中心训练先进AI模型的弹性新方法。🧵