行业新闻

智谱披露 RSI 早期成果:GLM-5.3 Agent 自主搭建 10 万卡国产芯片推理系统

这是 RSI 第一次有跑进生产环境的工程实例:Agent 不只是写代码,更依赖系统提供的分层可验证反馈,才把 10 万卡国产集群的推理服务调通。

智谱创始人唐杰分享内部观察到的 RSI(递归自我改进,模型参与设计下一代自己)早期案例:GLM-5.3 驱动的 Infra Agent 在 10 万张国产芯片集群上从零搭建生产级推理系统,自己读系统反馈、改代码、跑实验,把 KV Transfer 中因 Python GIL 造成的 20% 性能损失压到 1% 以内,两周内将端到端吞吐提升到基线 3 倍。

正文摘录

清华大学计算机系教授、智谱创始人唐杰 刚刚分享了一个他们内部观察到的RSI早期案例: GLM-5.3驱动的Infra Agent,在超过10万张国产芯片组成的集群上,从零参与搭建并优化了一套生产级推理系统。 从算子精度问题,到Python/C++跨层并发瓶颈,再到Kernel性能优化,Agent已经能自己读取系统反馈、提出假设、修改代码、跑实验,再根据结果继续迭代。 比如它定位出了KV Transfer场景中Python GIL导致的并发阻塞,把Prefill+KV Transfer相比单独Prefill超过20%的性能损失,压到了 1%以内 ;还在KDA Decode算子上,通过重新组织计算拿到了 1.71× 的性能提升。 RSI第一次有了非常工程化、甚至已经跑进生产环境的雏形,超越了“未来某一天AI会自己变强”的抽象讨论。 在GLM的研发过程中, 模型时常会涌现出一些令我们惊喜、甚至让我们感到不安的能力 。 安全能力是代码能力的自然延伸,能够读懂复杂代码的模型,理应也能够理解代码中的漏洞。 我们没有预料它此后的走向 ,不到一年,安全伙伴使用GLM在真实代码库中发现了数千个漏洞。 我们看到模型完成了一项过去需要一支资深Infra团队数周才能完成的基础设施工作,并意识到这项工作将直接改变下一代模型的训练方式,我们更加确信: 我们的继任者,正是我们亲手创造出来的AI 。 坦白说,在GLM-4.7之前,我们内部用GLM写代码多少带着被迫的成分,毕竟是自己的“亲儿子”。 那时,Coding的PMF还未到来;今天,GLM-5.3已经成为每个人每天离不开的Coding伙伴,正一步步走向取代我们。 如果这一趋势延续下去,给足算力、给足时间,它的终点是一个能够完全自主设计并训练出自己继任者的系统,这被称为递归自我改进(Recursive Self-Improvement, RSI)。

阅读原文(qbitai.com)→

行业新闻一水2026-09-17原文

相关内容