Qwen3 支持百万级 token 上下文
Qwen3 支持 1M tokens!
🚀 Qwen3-30B-A3B-2507 和 Qwen3-235B-A22B-2507 现在支持超长上下文——多达一百万个 token!
🔧 核心技术支持:
• 双块注意力(DCA)——一种长度外推方法,将长序列分割成可管理的块,同时保持全局连贯性。
• https://t.co/ACtXybTFQC
🚀 Qwen3-30B-A3B-2507 和 Qwen3-235B-A22B-2507 现在支持超长上下文——多达一百万个 token!
🔧 核心技术支持:
• 双块注意力(DCA)——一种长度外推方法,将长序列分割成可管理的块,同时保持全局连贯性。
• https://t.co/ACtXybTFQC