动态

发布CLIMB方法实现高效LM预训练及高质量语料库

发布CLIMB方法实现高效LM预训练及高质量语料库
Shizhe Diao
感谢分享!
我们刚刚发布了CLIMB,一种基于聚类的迭代数据混合引导方法,用于高效LM预训练,并贡献了一个高质量的预训练语料库。
我们希望CLIMB能推动高效语言模型预训练的发展!
查看详情
AK
Nvidia刚刚在Hugging Face上发布了CLIMB

基于聚类的迭代数据混合引导方法,用于语言模型预训练 https://t.co/oShj6WzDTE
动态Shizhe Diao2025-04-18原文

相关内容