阿里真武超节点适配 Qwen3.8，上线百炼提供推理服务
阿里推出国内首个支持超 2 万亿参数模型的超节点，通过软硬件协同优化提升了 Qwen3.8 的推理效率。
阿里真武 M890 超节点（一种集成多张 AI 芯片的算力集群）成功适配 2.4 万亿参数的 Qwen3.8 模型，并上线百炼平台提供推理服务。通过 64 张芯片高速互联和全链路优化，该实例可在 Agentic 推理场景中提升 1.5 倍性能，同时降低成本。
正文摘录
7月23日消息，阿里真武 M890 超节点已成功适配 Qwen3.8，并上线阿里云百炼平台提供模型推理服务，这是国内首个成功运行超2万亿参数大模型的超节点。 Qwen3.8 是阿里最新旗舰模型，参数规模高达2.4万亿，跑通这一规模的模型需要将参数分散到几十张甚至上百张高速互联的 GPU 卡，让万亿参数“跑得又稳又快”。然而，普通 AI 集群因通信带宽的局限，无法满足高吞吐、低延迟、高并发的需求。 真武 M890 是平头哥新一代训推一体 AI 芯片，原生支持 FP32 到 FP4 等多种数据精度，可应用于高精度训练、低精度和超低精度推理的全场景。真武超节点实例通过 ICN Switch 1.0 互联芯片，让64张真武 M890 实现了 800GB/s 的高速互联，显存规模达到 9TB，单实例即可支撑大规模2万亿参数 MoE 模型的专家并行需求。 此外，阿里还从芯片到云平台层面实现了与 Qwen 模型的全链路优化，不仅可以丝滑跑通 Qwen3.8，还能显著提升推理效率、降低推理成本。实测数据显示，通过算子优化和软硬件架构协同，该超节点实例在 Agentic 推理场景中最多可实现1.5倍的推理性能提升。 量子位 QbitAI 版权所有 © 北京极客伙伴科技有限公司 京ICP备17005886号-1