开源社区成功移植Kimi视觉编码器到GLM-5.2
AI 领域的“器官移植”成功了!🧠👁️
开源社区又玩出了新高度:Baseten 成功把 Kimi 的“眼睛”移植给了 GLM-5.2!
把 Kimi K2.6 的 MoonViT 视觉编码器接上 GLM-5.2,两边原始权重一个字节都没动,中间只训了一个 5000 万参数的转接层。
极其戏剧化的一幕发生了:
团队只用了 6.6 万张配对图片做微调。 当训练推进到第 900 步时,Loss 突然呈断崖式掉落(典型的 Grokking 现象)!
模型不仅学会了看图,甚至连训练集里完全没见过的人脸都能精准识别。
未来的大模型可能不需要从头训多模态了,直接像搭乐高一样拼装!
开源社区又玩出了新高度:Baseten 成功把 Kimi 的“眼睛”移植给了 GLM-5.2!
把 Kimi K2.6 的 MoonViT 视觉编码器接上 GLM-5.2,两边原始权重一个字节都没动,中间只训了一个 5000 万参数的转接层。
极其戏剧化的一幕发生了:
团队只用了 6.6 万张配对图片做微调。 当训练推进到第 900 步时,Loss 突然呈断崖式掉落(典型的 Grokking 现象)!
模型不仅学会了看图,甚至连训练集里完全没见过的人脸都能精准识别。
未来的大模型可能不需要从头训多模态了,直接像搭乐高一样拼装!