阿里Qwen3.5多模态MoE模型发布,vLLM即日支持
🎉 恭喜 @Alibaba_Qwen 在除夕发布 Qwen3.5 —— vLLM 已提供首日支持!
Qwen3.5 是一个采用 Gated Delta Networks 架构的多模态 MoE 模型——总参数量 397B,仅 17B 激活。
推理方面的亮点:
🧠 Gated Delta Networks + 稀疏 MoE —— 高吞吐、低延迟、低成本
🌍 开箱即支持 201 种语言和方言
👁️ 单模型同时处理文本和视觉——无需分离的 VL 流水线
已在 NVIDIA GPU 上验证。Docker、pip 和多节点部署指南见下方 👇
https://t.co/VNbDLoDdFe
#vLLM #Qwen #开源 #推理
Qwen3.5 是一个采用 Gated Delta Networks 架构的多模态 MoE 模型——总参数量 397B,仅 17B 激活。
推理方面的亮点:
🧠 Gated Delta Networks + 稀疏 MoE —— 高吞吐、低延迟、低成本
🌍 开箱即支持 201 种语言和方言
👁️ 单模型同时处理文本和视觉——无需分离的 VL 流水线
已在 NVIDIA GPU 上验证。Docker、pip 和多节点部署指南见下方 👇
https://t.co/VNbDLoDdFe
#vLLM #Qwen #开源 #推理
🚀 Qwen3.5-397B-A17B 来了:Qwen3.5 系列首个开放权重模型。
🖼️原生多模态。为真实世界 Agent 训练。
✨采用混合线性注意力 + 稀疏 MoE 和大规模 RL 环境扩展驱动。
⚡解码吞吐量是 Qwen3-Max 的 8.6 倍至 19.0 倍
🌍201 https://t.co/Pq0qIk54MB