扩散语言模型在端侧场景将Agent运行速度提升约5倍
扩散语言模型用全局生成替代逐字生成，端侧Agent提速5倍，或为新一代AI基础模型提供新路径。
传统GPT模型逐字生成内容，扩散语言模型则先搭建全局框架，再并行细化内容。测试显示，在端侧场景中，扩散语言模型可将Agent运行速度提升约5倍，为AI PC、汽车、机器人等场景的落地带来新可能。
正文摘录
.jpg) 主流大模型仍在沿着自回归路线不断扩展，但另一种技术路径正在加速逼近产业化临界点。 一项联合测试为这种可能性提供了新证据。 9 月 1 日，扩散语言模型团队扩散智能 DiffuSpace 与 亚洲智能体计算平台公司 Acrab 的测试结果显示，在端侧场景中，dLLM 可将 Agent 的运行速度提升约 5 倍。 基于此次测试，双方计划加速推进扩散语言模型在 AI PC、智能汽车、机器人及智能家居等场景的落地。[](https://mp.weixin.qq.com/s/Xd-V3BbuqsopfIeeWPbwtw) 扩散语言模型（Diffusion Language Model，dLLM），凭借「全局生成」的独特性，被视为下一代通用人工智能基础模型的重要方向之一，甚至被预测，“或将在两年内替代 GPT 类自回归模型”。Google、Inception、蚂蚁集团等都在积极抢占这一赛道。 与 GPT 类主流模型 “从左至右，逐个 Token 生成” 的模式不同，dLLM 模型借鉴了图像模型的扩散机制，生成时先形成全局内容框架，再结合上下文并行不断修正结果，既能形成更具全局一致性的内容，也能实现 5 倍乃至 10 倍的推理加速。 这种差异，在端侧 AI 上会被进一步放大。