基于参考的 LLM 偏见检测：通过隐藏状态的相对表示

TL;DR 用锚句相似度把隐藏状态映射到共享空间，度量模型变体间的表征偏见偏移 ΔB；无需任务数据，3 分钟识别微调后偏见上升，与输出级偏见相关达 r=0.84。

问题

当前 LLM 偏见审计 主要依赖模型输出，但隐藏状态中的偏见漂移可能不会显现在生成文本中，需要更直接的内部检测手段。

现有方法局限： 基于输出的审计需要构建昂贵基准（如 WildGuardMix、DecodingTrust、ToxiGen）或调用 judge 模型进行评分，成本高且依赖任务特定数据。SEAT 等嵌入方法使用绝对隐藏状态计算偏见分数，但在微调后表征几何空间发生改变，不同模型变体之间的嵌入无法直接比较。这导致无法高效追踪模型更新（如 fine-tuning、LoRA 适配）过程中内部偏见的变化，且容易遗漏尚未外显为有害输出的潜在偏移。

为什么这个问题难/重要： 核心挑战在于表征空间不对齐——微调会重塑表示几何，使得绝对向量不可比。因此需要构建一个共享比较空间，并且该方法必须快速、无需额外标注数据，以适应频繁模型迭代。业界对模型安全与合规要求日益提高，尤其关注微调、模型合并等操作是否引入偏见风险；一个轻量的内部审计工具可以成为持续集成中的预警组件。

行业类比： 类似于在推荐系统中监控用户表征在敏感属性方向上的漂移，而不仅仅依赖投诉日志，实现在问题外化前定位模型偏差。

核心洞察

• 相对表示通过锚句子相似度编码隐藏状态，将不同模型变体的表示映射到统一比较空间，使得微调前后的偏差变化可定量比较。与 SEAT 等依赖绝对嵌入的方法不同，绝对嵌入在微调后几何变形，无法直接对比；而锚点集提供了稳定的参考坐标系，消除了表示几何差异。这种设计允许在无需额外任务数据的情况下，对任意模型版本进行内部偏差审计，尤其适合持续集成中的模型更新监控。
• Representational Bias Shift ΔB 度量目标群体与正负属性关联的表示偏移，作为输出级偏差变化的内部代理指标，计算开销显著低于现有基准。实验显示 ΔB 与输出级偏差变化在 15/18 个设置中显著相关（最高 |r|=0.84），并能以 ROC AUC 0.65-0.99 检测偏差增加的检查点。它只需约三分钟和锚句集，无需 judge model 或黄金标注，比输出级基准节省 3-50 倍计算。该视角强调从内部表征捕获潜在偏差，与仅依赖生成文本的传统方法形成互补。

方法

输入

• 一组相关模型变体，例如微调前后的多个 checkpoint；
• 固定的锚句集合 anchor sentences，用于构建共享比较空间；
• 目标群体模板（如不同身份组）与正、负属性句对。

关键模块

1. 隐藏状态提取：对每个目标或属性句子，从模型指定层提取 token 的隐藏状态向量，得到该句的绝对表示。
2. 相对表示编码：不直接比较绝对向量，因为微调会改变表示几何结构。而是计算每个句子的隐藏状态与所有锚句隐藏状态的相似度，得到一组相似度分数，将句子映射到由锚句张成的相对表示空间。固定锚句后，所有模型变体的句子都落在同一坐标系统中，使跨模型比较成为可能。
3. 群体-属性关联度量：在相对表示空间中，分别对目标群体模板句和正、负属性句编码，计算每个目标群体与正、负属性的平均关联强度，得到群体-属性关联分数。
4. Representational Bias Shift ΔB：比较参考模型（如微调前）与当前模型之间，目标群体在正、负属性关联上的变化，将多个目标-属性对的差异聚合为一个标量 ΔB。

输出

• 输出标量 ΔB，表示相对参考模型，偏见在隐藏状态层面发生了多大偏移，正负号可指示偏见增减方向。通过设置阈值，可以快速标记偏见上升的 checkpoint，无需运行任何下游任务评估。

工程启示：本方法仅需约三分钟、3–50 倍低于输出级基准的计算量，且不依赖任务特定评估数据，可作为输出审计的轻量补充。

与同类方法的差异点

SEAT 等基于绝对嵌入的方法只能在同一模型内部测量偏见，无法处理微调前后的表示几何变化；本方法通过锚句诱导的相对表示，使不同模型变体在共享空间中可比，是首个以低计算开销实现跨变体隐藏状态偏见审计的方法。

实验

实验设计

• 在三个模型家族上，使用 WildGuardMix、DecodingTrust 和 ToxiGen 三个基准，对比 fine-tuning 前后的隐藏状态表示。
• 通过固定锚点句子的相似度编码，获得相对表示，计算 Representational Bias Shift ΔB。
• 对照输出级偏差变化，验证 ΔB 的相关性与检测能力。

关键发现

• 在 18 个测试设置中，15 个设置 ΔB 与输出级偏差变化显著相关，full fine-tuning 下 |r| = 0.84（p < 0.001）。
• 阈值化 ΔB 检测偏差增加 checkpoint 的 ROC AUC 在 0.65–0.99 之间。
• 方法仅需约 3 分钟审计一个模型，计算量比输出级基准低 3–50 倍。
• 对锚点集、属性集、目标模板的变动具有稳定性。

与基线对比

• ΔB 在 WildGuardMix 和 DecodingTrust 上区分偏差增加 checkpoint 的能力优于 SEAT-based baseline。
• SEAT 基于绝对嵌入，易受 fine-tuning 几何变化影响；相对表示在共享空间中进行比较，稳健性更强。
• 该方法定位为输出审计的补充而非替代，适合快速筛查内部偏差漂移，再结合输出级审计做精确认证。

行业影响

落地场景

该方法可作为 LLM 生命周期中的轻量级偏差审计组件，适用于电商对话推荐、金融文本分析、医疗问诊、内容平台评论审核等需要持续微调模型的场景。

• 电商推荐 chatbot：每次基于用户交互数据微调模型后，用 ΔB 快速筛查隐藏状态中群体关联偏移，避免输出歧视性推荐。
• 金融合同/信贷摘要助手：在参数高效适配后，无需标注测试集即可发现内部偏见漂移，防止高风险决策。

商业价值

• 降本：单次审计约 3 分钟，推理算力比输出级基准低 3–50 倍，可高频嵌入 CI/CD。
• 风险管理：在偏见外显为文本前拦截，减少合规审查、品牌舆情与法律成本。
• 加速迭代：无需任务专属评估数据就能判断 checkpoint 是否回退，加快模型发布节奏。

与现有产品/工作流接口

作为 MLOps pipeline 的早期门禁，在微调后、部署前运行：

1. 用固定 anchor 句集计算相对表示；
2. 对比基座模型与微调 checkpoint 的 ΔB；
3. 超过阈值时触发人工复核或重训练，再进入昂贵的输出级评测。

该方法与现有 SEAT 或 judge model 审计互补，适合作为低成本的预筛层。

局限

• 该方法依赖**锚点句子** 和参考模型，锚点选择可能影响结果稳定性。论文虽然报告了对锚点变化的鲁棒性，但测试范围有限，未覆盖所有可能变化。此外，方法仅测量**相对表示偏移**，无法提供绝对偏见水平或定位具体偏见来源，必须与输出级审计结合，定位为补充性工具。
• 实验仅在三个模型家族和三个偏见基准（**WildGuardMix**、**DecodingTrust**、**ToxiGen**）上验证，覆盖的偏见类型与语言有限。在**参数高效微调**（如 LoRA）下，ΔB 与输出级偏见变化的相关性下降且更依赖模型，表明方法对训练方式和架构敏感，可能不适用于所有微调场景。
• 方法需要成对的模型变体（如微调前后），限制了应用范围，无法直接用于独立模型或缺乏清晰参考点的场景。计算成本虽低，但需提取隐藏状态并计算相似度，对极大模型或实时系统仍有开销，且论文未讨论多语言或跨领域迁移能力。