泛化即稳定性，而非准确性：LLMs 的多轴评估

TL;DR SAGO 框架从生成、激活、置信度、响应镜像多轴测量 LLM 对同义改写的稳定性，发现模型普遍不稳定，跨数据集排名会反转。这挑战了以准确率评估泛化的做法。

问题

问题背景
当前 LLM 评估领域关注模型在真实部署中的泛化能力，尤其是同一意图以不同表达形式出现时，模型能否保持稳健。

现有方法局限
主流评估通常只在一个固定 prompt 格式或少量变体上计算聚合准确率，将鲁棒性与整体基准分数混为一谈。这种做法有三方面不足：

• 聚合分数可以掩盖单个示例上的不稳定行为，模型可能通过窄化训练提升分数而没有真正提高泛化；
• 仅看输出正确性，忽略内部激活、置信度、响应镜像等行为维度，而这些维度在输入改写下可能暴露独立的失效模式；
• 缺少 per-example 的稳定性度量，无法回答“同一个输入换一种说法，模型输出是否语义一致”这一核心问题。

为什么这个问题难/重要
真实系统中用户意图很少以固定形式出现，措辞、长度、语气、形式的变化都可能引起模型行为显著波动。搜索、编码助手、agentic workflow 等场景对一致性要求极高：即使最终答案正确，中间表征和置信度的剧烈变化也可能影响下游决策。评估泛化需要同时考虑多个行为轴，且这些轴可能捕获不同的失败模式；跨数据集变化甚至可能反转模型排名。因此，仅靠单点分数无法提供可信的泛化证据，必须引入统计显著的稳定性框架。

行业类比
类似软件工程中的属性测试（property-based testing）：不仅要求函数在固定测试用例上输出正确，还要求在等价输入变换下保持行为一致。

核心洞察

• 将泛化定义为稳定性而非准确率：SAGO 在个体实例层面测量同一输入在不同表述下的行为变异，而非使用单 prompt 聚合分数。这一角度区别于常见 **OOD 鲁棒性** 工作——后者常以整体准确率或平均一致性作为泛化指标，将稳健性与基准性能混为一谈，可能被针对性训练掩盖。SAGO 的 per-example 变异度量把泛化评估从基准分数中剥离，更直接暴露模型对输入扰动的敏感点。
• 多轴评估揭示独立失败模式：SAGO 同时测量 **生成一致性**、**内部激活**、**置信度** 和 **响应镜像**，并发现各轴捕获的失败模式互不重叠，跨数据集还会反转模型排名。这不同于以往只关注文本生成相似度或准确率的研究，因为激活几何和置信度等信号能在表面输出看似稳定时捕捉内部漂移，而响应镜像则反映模型对提示措辞的过度模仿。这种多信号解耦为定位模型泛化瓶颈提供了更细粒度的诊断工具。

方法

输入

SAGO 接收一个基础输入样本集合，对每个样本生成一组变体 V，由三类扰动构造：

• 社会语域（social register）：改变语气、正式度、礼貌程度等。
• 表面噪声（surface noise）：同义替换、拼写错误、词序扰动等。
• 结构重写（structural rewriting）：句式变换、主动/被动转换、信息重组。 输入还包括待评估的 LLM 和多组下游数据集/基准任务。

关键模块

1. 多轴行为测量：对每个变体执行推理，不只看输出文本，还提取四类行为信号：

   • 生成一致性（X_BLEU, X_BERT）：比较不同变体输出之间的 n-gram 和语义相似度。
   • 激活几何（X_Act）：比较模型内部隐藏状态或注意力表征的对齐程度。
   • 置信度与不确定性（X_Prob, X_Ent）：记录输出概率和熵。
   • 响应镜像（X_MR）：检测模型是否在输出中复述输入变体的表面特征（如语气、格式）。

2. 稳定性分数归一化：对每个样本，先计算其跨变体的逐提示不稳定性，再进行归一化，汇总到数据集和总体 SAGO 分数，并通过统计显著性检验判断是否显著偏离随机波动。

3. 跨数据集对比：SAGO 可跨数据集/基准计算，揭示模型排序是否随数据集变化而反转。

输出

输出为稳定性感知泛化目标分数（SAGO score），以及各行为轴的不稳定性剖面，标识模型在哪些维度上泛化不佳。

原文强调：泛化评估应在个体样本级别、多输入变体、多行为轴上关注变异性，而非将性能压缩为单一准确率。

与同类方法的差异

与以往使用单一提示格式的聚合准确率评估泛化相比，SAGO 通过多轴变异测量将鲁棒性与基准性能解耦，避免窄训练或混淆因素掩盖泛化缺陷。

实验

实验设计

SAGO 通过构造输入变体集合（社交语域变换、表面噪声注入、结构重写）模拟同一意图的不同表达，并在多个常用 LLM 上评估。行为变化通过四个轴测量：激活几何（内部表征距离）、生成一致性（BLEU/BERT 相似度）、置信度（输出概率与熵）、响应镜像（模型是否复制输入措辞）。评估跨多个数据集/基准，并报告统计显著性。

关键发现

1. 所有被测模型均表现出统计显著且一致的泛化不稳定性，没有模型在所有轴上统一泛化。
2. 不同行为轴（如激活几何与生成一致性）捕获相互独立的失败模式。
3. 跨数据集变异可导致模型排名反转，说明单一基准下的稳定性结论不可外推。

基线对比解读

传统评估以单一提示格式下的聚合准确率作为泛化指标，混淆了鲁棒性与整体性能，并可能通过窄化训练或提示工程“刷分”。SAGO 转而逐示例、多变体、多轴测量变异性，揭示聚合指标掩盖的脆弱性。与单轴准确率相比，SAGO 的分解视图使模型在特定行为维度上的短板暴露，表明“准确性更高”不一定等于“泛化更稳”，因此评估体系需要从精度中心转向稳定性中心。

行业影响

落地场景

SAGO 可嵌入需要高稳定输出的 LLM 应用：客服对话系统、RAG 问答、内容审核、合规助手、医疗咨询等。例如电商客服中，用户将“退货政策是什么”改写为“想退东西有啥要求”，模型应给出语义一致的答案；SAGO 在多轴稳定性上的度量可暴露仅凭准确率无法发现的脆弱点。同样，在 agentic workflow 中，同一意图的措辞变化不应导致工具调用序列改变。金融合规场景中，用户将“某交易是否需申报”改写为“这笔操作要不要报告”，模型结论必须一致。

商业价值

评估泛化从“平均准确率”转向 稳定性 测量，避免模型在特定 prompt 模板上过拟合。商业收益体现在：降低因输出不一致导致的客服升级工单和合规风险；提升用户信任，减少重复询问；缩短从模型选型到上线的验证周期。论文发现跨数据集排名反转，意味着仅凭单一 benchmark 选型可能选到在生产变体下不稳定的模型，SAGO 可作为更可靠的采购依据。

集成接口

可作为 LLM 评测流水线的一个插件，与 LangSmith、DeepEval、Ragas 等工具集成：输入原始样本和变体集 V，输出各轴稳定性分数 X_Act、X_BLEU、X_MR 等，并做显著性检验。在 CI/CD 中，每次模型更新或 prompt 模板变更时运行 SAGO，设定稳定性阈值，低于阈值阻断发布。也可用于线上监控，抽样用户请求的不同变体，实时跟踪漂移。

局限

• - **评估覆盖面有限**：SAGO 使用的变体类型（社会语域、表面噪声、结构重写）虽然多样，但无法穷尽真实世界中的全部改写方式，例如语义上等价但句法差异极大的表达、多语言变体等未被纳入。此外，评估基准可能偏向英文，跨语言泛化稳定性未被探讨，这限制了结论的普适性。
• - **依赖模型内部表征**：SAGO 的 Activation geometry 指标需要访问模型内部激活，这使得框架仅适用于开源模型或可提供隐藏状态的 API，对于闭源商业模型（如 GPT-4、Claude 等）无法应用。同时，计算激活相似度（如 CKA、PWCCA）需要额外计算资源，增加了评估成本和门槛。
• - **结论稳定性存疑**：论文发现跨数据集变化可以反转模型排名，这说明 SAGO 的分数高度依赖所选基准和变体集合，单一数据集的稳定性得分可能不足以全面反映模型泛化能力。此外，统计显著性检验的阈值和样本量对结果影响较大，缺乏系统性的鲁棒性分析，可能影响框架的实际应用。