动态

ERNIE-4.5模型:MoE架构,21B参数,推理增强

ERNIE-4.5模型:MoE架构,21B参数,推理增强
AK
ERNIE-4.5-21B-A3B-Thinking

一个文本MoE后训练模型,总参数21B,每个token激活3B参数。

在推理任务中显著提升性能,包括逻辑推理、数学、科学、编码、文本生成以及通常需要人类专业知识的学术基准。

高效的工具使用能力。

增强的128K长上下文理解能力。

在anycoder中为它写了个聊天应用。
动态AK2025-09-09原文

相关内容