动态

提出并行缩放新方法,提升计算效率

提出并行缩放新方法,提升计算效率
Binyuan Hui
参数和推理时缩放已经证明,更多计算带来更多智能。但有没有新的计算缩放方式?答案可能是肯定的!我们提出并行缩放——在训练和推理期间增加并行计算。作为一项探索性研究,我们从理论上提出新的缩放定律,并通过预训练验证,显示具有P条并行流的模型类似于将参数缩放O(log P),同时展现出更优的推理效率。

https://arxiv.org/abs/2505.10475
https://github.com/QwenLM/ParScale
https://hf.co/spaces/ParScale/Parallel_Scaling_Law
动态Binyuan Hui2025-05-16原文

相关内容