AI21 Labs 发布 3B 参数推理模型 Jamba Reasoning
小参数模型也能实现强大推理，降低高性能 AI 门槛。
AI21 Labs 推出 Jamba Reasoning 3B，一个仅 30 亿参数的小型推理模型。它专为复杂逻辑推理任务设计，在数学、代码等场景表现出色，同时保持低计算成本，让更多团队能在消费级硬件上部署推理能力。
正文摘录
- title: 介绍 Jamba Reasoning 3B：小模型，大可能 - sourcecompany: AI21 Labs - bodymarkdown: 今天，我们推出 Jamba Reasoning 3B，一款紧凑型、开源的推理模型，重新定义了端侧设备上可能实现的能力 —— 这也是 Jamba 模型系列新增成员中的第一款。该模型基于我们创新的 [SSM-Transformer 架构](https://arxiv.org/pdf/2403.19887) 构建，上下文窗口长度达 256K 个 token，并能够处理高达 1M 个 token。在领先的智能基准测试中，Jamba Reasoning 3B 相比 DeepSeek、Google、Llama 和 Microsoft 等竞争对手，实现了 2-5 倍的效率提升。 我们很自豪地以 [Apache 2.0 许可证](https://www.apache.org/licenses/LICENSE-2.0) 发布此模型，这是我们致力于让优质模型更易获取的一部分；尤其令人兴奋的是，由于该模型内存占用极轻，世界各地的开发者都可以直接在自己的设备（包括 iPhone、Android、Mac 和 PC）上下载并运行这项技术。