OmniEdu: 面向学习与教学的开放基础模型

TL;DR OmniEdu 开源 4B/9B/27B 教育基础模型，以能力导向指令调优（学科能力、课程定位、诊断推理、教学脚手架）全面提升 K-12 解题、课程理解与辅导表现，在多个基准领先。

问题

问题背景

教育基础模型正从单一答题工具走向 教学助手：模型必须理解题目在课程体系中的位置、诊断学习者的困难根源，并给出符合教学逻辑的干预策略。开源、可复现的教学基础模型需求远未被满足。

现有方法局限

已有教育语言模型大多仅覆盖 问题求解 或 对话辅导 单点能力，训练数据按来源或任务类型拼凑，未按 能力维度 显式平衡。具体表现为：

• 课程 grounding 薄弱：模型常能解对题目，但无法说明该题对应哪个年级、哪个知识点，导致教学定位错误。
• 诊断推理缺失：面对错误答案，模型难以区分是概念混淆、计算失误还是审题偏差，无法给出针对性补救。
• 教学指令质量不稳定：训练混合中缺少对 教学行为（如提示、分解步骤、反问）的专门标注与筛选，造成辅导回答过度直接给答案或泛泛而谈。
• 数据构建管线粗放：缺少对题目-答案对的语义审计、跨基准去污染、token 预算约束下的多样性采样，导致小模型过拟合特定风格或基准。

为什么这个问题难且重要

教育任务对 能力组合性 要求极高：一道数学题同时考验模型的计算、课程节点识别、常见错误模式认知和教学表达。四类能力——学科胜任力、课程 grounding、诊断推理、教学行动与脚手架——相互耦合，任何单点优化都可能牺牲其他维度。此外，构建平衡数据集需要融合 100+ 教育资源和通用指令数据，经历确定性清洗、LLM 语义审计、任务特定质量打分、token 预算多样性选择等多阶段流程，工程复杂度和计算成本显著高于普通指令微调。业界关注度持续上升，因为教育是 LLM 落地最明确、容错要求最高的场景之一，但现有开源模型在 统一教学能力基准（如 K12-Bench、MathTutorBench、LongTutor）上均未形成系统优势。

行业类比

这类似于 医疗 AI 中的临床决策支持系统：不能只给出诊断结论，还要解释病理依据、鉴别诊断和个性化治疗方案，否则无法进入真实工作流。

核心洞察

• 能力导向的指令微调语料组织是 OmniEdu 的核心创新。不同于现有教育语言模型按任务或来源混合数据、侧重解题或辅导的单一方向，OmniEdu 将训练样本明确组织为学科能力、课程基准、诊断推理、教学行动与脚手架四种互补能力，并在监督信号中显式平衡这些能力。这一设计让模型不会因数据偏向某类任务而失去其他教育能力，从而在 K12-Bench、MathFish、EDUMATH、MathTutorBench 等不同教育基准上同时提升，体现出教育场景中多能力耦合需求的独特性。
• 多阶段数据质量与多样性控制管道证明了少量高质量教育数据可以超越大量粗筛数据。OmniEdu 通过确定性清洗、LLM 辅助语义审计与重写、任务特定质量评分、token 预算多样性选择、教学指令分配等多步处理，从 100+ 资源中提炼出 69,999 个示例（60,951 个教育专用，15.96M token）。在 4B/9B/27B 模型上一致提升多个教育基准并保持通用能力，说明针对教育特性的数据工程比单纯增加数据量更关键，为领域模型数据构建提供了可复用的工程范式。

方法

OmniEdu 的方法围绕能力导向的指令微调数据构建与多尺度模型训练展开，输入为 100+ 教育资源和通用指令源，输出为 4B/9B/27B 三个开源模型。

输入与能力分类

首先定义四项互补能力：学科能力（subject competence）、课程锚定（curriculum grounding）、诊断推理（diagnostic reasoning）、教学行动与脚手架（pedagogical action and scaffolding）。从 K-12 教育资源和通用指令数据中收集原始样本。

关键数据流水线

1. 确定性清洗与评估去污染：去除格式噪声、重复项，并移除与下游基准测试重叠的样本，防止数据泄漏。
2. LLM 辅助语义审计与重写：用大模型检查语义一致性、修复错误答案、提升指令清晰度。
3. 任务特定质量评分：针对不同能力设置评分器（如解题正确性、课程对齐度、教学策略合理性），过滤低质样本。
4. Token 预算多样性选择：在固定 token 总量下，最大化样本多样性（覆盖不同知识点、题型、教学场景），避免冗余。
5. 教学指令分配与最终组装：将样本映射到具体教学指令格式（如逐步引导、提示性提问），最终生成 69,999 个实例，含 60,951 教育专属样本，总监督响应 token 15.96M。

模型训练

对 4B、9B、27B 基础模型进行全参数微调（或 LoRA 等参数高效方法，论文未明确指定损失函数细节），训练目标为最大化指令响应似然。随后在课程锚定（K12-Bench、MathFish、EDUMATH）、K-12 解题（K12-Bench EM/F1）、教学辅导（MathTutorBench、TutorBench、LongTutor）及通用能力基准上评估。

与同类方法差异

区别于按数据源或任务混合训练的教育 LLM，OmniEdu 通过能力平衡的监督信号显式建模学科、课程、诊断与教学四维能力，从数据构建层面保障教育场景的泛化性。

实验

实验设计

• 模型尺度：4B / 9B / 27B，基于能力导向 supervised fine-tuning。
• 训练语料：69,999 示例，其中 60,951 教育特定，15.96M 监督响应 tokens。
• 评估基准：课程定位 K12-Bench / MathFish / EDUMATH；教学辅导 MathTutorBench / TutorBench / LongTutor；并结合通用能力测试。

关键发现

• OmniEdu-27B 在 K12-Bench 获得 63.12% EM 与 76.69% F1，MathFish 85.89%，EDUMATH 86.95%，MathTutorBench Scaffold 78.74%，LongTutor Teaching avg 3.02（所有评估模型最高）。
• 教育导向调优在 4B/9B/27B 三个尺度上一致提升所有三类教育基准，同时通用能力未见明显退化。

与基线对比

• 相比按 source/task 组织的教育语言模型，OmniEdu 的能力导向语料带来跨基准一致增益，尤其在教学 scaffolding 上超越对比模型。
• 摘要未给出逐基准相对基线的具体提升幅度，但 LongTutor 最高分与三尺度一致性说明：显式平衡 subject competence、curriculum grounding、diagnostic reasoning、pedagogical action 四类监督信号，比单纯堆叠教育数据更有效。

行业影响

落地场景

OmniEdu 可直接用于 K-12 自适应学习与智能辅导产品，覆盖 解题能力、课程对齐、诊断推理 与 教学支架 四类任务。典型场景包括：在线题库的智能答疑与错因分析、课程平台自动生成分层练习，以及 AI 助教在课堂中提供个性化反馈。企业培训与教育内容生成工具也可复用其多能力设计。

商业价值

从降本看，OmniEdu 开源且支持 4B/9B/27B 多规模部署，可降低教育 AI 的推理与训练成本；从增收与体验看，其能力平衡设计可提升用户留存——例如学生在做错题时获得基于课程定位的诊断和分步引导，而非仅给出答案。27B 模型在 K12-Bench（EM 63.12%）和 MathFish（85.89%）等基准上的表现接近专用模型，具备产品化潜力。

集成接口

模型权重与训练数据均开放，可通过 Hugging Face 直接接入现有 LLMOps 栈。建议采用以下集成路径：

• 使用 OmniEdu-9B 作为低延迟在线答疑服务，OmniEdu-27B 用于离线课程生成与诊断分析。
• 结合教育知识图谱或课程大纲做检索增强，将 课程定位 能力用于约束生成内容范围。
• 输出格式可对接现有 LMS 或题库系统的 API，将“诊断—脚手架”结果映射为 UI 中的提示卡片。

具体落地 use case

某在线教育平台的数学错题本功能，可调用 OmniEdu 对学生错题做 诊断推理，识别具体知识薄弱点（如分数乘法的概念误解），并自动生成三道同知识点不同难度的练习题，同时附带教学提示。另一场景是企业内部培训系统，OmniEdu 根据岗位能力模型自动生成课程大纲和评估题，并对学员作答进行过程性诊断，减少人工出题与辅导成本。

局限

• **模型规模与泛化局限**：OmniEdu 仅微调了 4B、9B、27B 三个规模，未探索更大参数模型（如 70B 或超大规模）。指令微调数据总量为 69,999 条，其中教育专属 60,951 条，规模相对有限，在域外分布或长尾学科上可能存在过拟合，泛化能力缺乏系统验证。同时，未开源 RLHF 或偏好优化阶段，仅靠指令微调可能限制了对齐效果和复杂教学策略的稳定性。
• **数据构建中的模型偏差**：流水线依赖 LLM 进行语义审计、重写和质量评分（如 GPT 系列），这会将上游模型的偏好与偏见引入数据集。论文未详细报告人工抽检比例和错误类型，因此数据纯净度与教育适切性可能被高估。此外，能力分类和指令分配规则主观性强，难以完全覆盖真实教学场景的多样性。
• **评估覆盖与真实场景差距**：基准集中在数学、课程知识和部分辅导任务，对科学实验、语言学习、社会情感辅导等覆盖不足。MathTutorBench 和 LongTutor 虽考察教学能力，但仍是静态或单轮交互，缺少真实课堂多轮、多模态、情感理解的长程评估。因此模型在真实教学环境中的实用性和安全性仍需进一步检验。