生数科技将直播 Motubrain 2.0 具身模型训练全流程,为期半个月
具身模型的训练过程通常不对外公开,这次把从预训练到自我改进的四个环节连续直播半个月,可以看到能力是怎么一步步形成的。
继大模型公开训练进展之后,Physical AI(物理人工智能,指让 AI 理解物理环境并通过机器人执行实际任务的模型)也开始打开训练过程。生数科技世界模型团队 10 月 21 日起直播 Motubrain 2.0 的训练全流程,为期半个月,覆盖预训练、后训练、Agent 任务执行和 RSI(递归自我改进,指模型根据执行反馈评估并改进自身行动)四个环节,并计划在开源前公开失败与调整过程。
正文摘录
.png) 大模型训练过程,开始更多地出现在公众视野中。 此前,小米 MiMo 负责人罗福莉公开了 MiMo-V2.6 强化学习阶段的训练进展,让外界看到了大模型训练中的一些具体细节。 现在,Physical AI 领域也有了类似尝试。 10 月 21 日,生数科技世界模型团队正式开启 Motubrain 2.0 训练全流程公开直播,计划持续半个月,向公众展示具身模型的训练过程及研究进展。 这次直播关注一个问题:Physical AI 究竟如何实现? Physical AI,即物理人工智能,希望让 AI 能够理解物理环境,并通过机器人完成实际任务。相比大语言模型,Physical AI 还需要解决动作决策、任务执行和跨场景泛化等问题。 Motubrain 系列是生数科技研发的具身模型,致力于为机器人构建具备通用能力的“大脑”,探索不同任务、场景和机器人本体之间的能力泛化。 Motubrain 2.0 即将开源。在正式开源前,团队选择率先公开其训练全流程,向外界展示这款模型从训练、测试到能力迭代的过程。 此次公开训练涵盖四个环节: 1、预训练:观察训练规模对模型性能及零样本泛化能力的影响。 2、后训练:针对具体任务进一步训练,提升任务执行能力。 3、Agent 任务执行:探索模型能否将已有经验迁移到其他任务。 4、RSI(递归自我改进)探索:研究模型能否根据执行反馈评估并改进自身行动。 此次直播的特别之处,是尝试打开具身模型训练的“黑盒”。