中关村学院 7 名博士生用 3 个月从零训练 7B 模型 ZGCM-1,代码数据日志全开源
7 个博士生带几百个 Agent 从零训完一个 7B 模型并全部开源,还用 L1–L5 评级给出「AI 能自己搞 AI 到什么程度」的工程答案。
北京中关村学院 7 名博士生用一个暑假从零训练出 7B 模型 ZGCM-1(70 亿参数规模的大语言模型),并开源各阶段权重、checkpoint(训练中途保存的模型快照)、训练代码、数据配方和日志。他们调度数百个 Agent 分担数据处理、实验与评测,实践「AI4AI」研发范式,并对 11 类任务的 Agent 自主性做了 L1–L5 评级。
正文摘录
7名博士生仅用3个月从零训练7B大模型:代码+数据+训练日志全公开 来源:量子位 北京中关村学院 7 名博士生,用一个暑假,从零训练出了一个 7B 大模型——ZGCM-1。 随后,他们把各阶段训练数据和配方、模型权重、训练代码、中间 checkpoint 和日志也开放出来,让每一位感兴趣的研究者都可以追溯、复现整个流程。 在多项通用评测中,ZGCM-1 与 Qwen3-8B 等同规模模型表现相近;在部分数学推理和搜索评测中,它也能与 Qwen3-235B-A22B、GLM-5.1 等更大规模的模型比较。 但比最终分数更让人好奇的是,数据、训练、集群、评测这一整套工程,在大厂通常需要几百人的团队协作完成,七个人怎么做得过来? 他们给自己组建了一支几百个 Agent 的团队,分头处理数据、跑实验、看日志、做评测,亲手实践「AI4AI」研发范式。 模型训完后,团队还对整个模型研发流程中 Agent 的实际表现做了一次评级,希望基于本次完整的大模型训练实践,为 RSI 现状提供真实的工程结论。 七个人最初因为兴趣凑到一起:两人人工智能方向,两人网络方向,另外三人分别来自化学、生物和网安。 平时,他们更多是在现成模型上做微调。技术报告看了不少,许多问题却还是想不明白:数据到底怎么选,训练出了问题怎么查,最后写进报告里的方法,又是经过多少次失败才留下来的?一句“我们进行了数据清洗”,落到实际工程中,究竟意味着多少工作? 吃火锅时,大家聊到了这些困惑,也聊出了一个念头:既然光看报告总有弄不明白的地方,要不要自己从头训练一次? 当时,他们甚至想用一个 7B 模型去挑战 Sonnet 这样的模型。参数装不下那么多知识,就让模型多想一会儿,学会搜索、使用工具。 至于能走多远,谁也没有把握。他们想先动手,也把过程留下来,让其他学校里同样好奇的研究者有东西可参考。