AI21 Labs 发布开源模型家族 Jamba2,聚焦企业可靠性与效率
AI21 Labs 发布开源 Jamba2 模型家族,以混合架构兼顾效率与可靠性,瞄准企业级应用。
AI21 Labs 推出 Jamba2,一个面向企业的开源大语言模型系列。Jamba2 采用混合架构(结合 Transformer 和状态空间模型),在保证推理速度的同时降低计算成本,专为需要高可靠性和可控性的企业场景设计。
正文摘录
介绍 Jamba2:为企业可靠性和效率打造的开源模型家族 今天,我们正式推出 Jamba2,这是一个面向企业构建的开源语言模型家族,旨在提供最大化的 可靠性 与 可操纵性 (steerability)。 基于我们创新的 [SSM-Transformer 架构](https://arxiv.org/pdf/2403.19887),Jamba2 在接地性 (grounding) 和指令遵循基准测试中处于类别领先地位。它为任何生产级 Agent 栈提供了一个紧凑、内存高效的组件——能够驱动精确的问答工作流,而无需像推理模型那样承担繁重的“思考 token”开销。 Jamba2 提供两种模型尺寸:3B 和 Mini (MoE;12B 活跃参数,52B 总参数)。我们很自豪地以 [Apache 2.0 许可证](https://www.apache.org/licenses/LICENSE-2.0) 发布两者,这是我们持续致力于普及优质模型访问的一部分。特别令人兴奋的是,本次发布包含一个 3B 模型,使全球各地的开发者都能在自己的设备(包括 iPhone、Android、Mac 和 PC)上直接下载并运行这项技术。