LLM 预测器所知但不言：探测内部表征实现校准与忠实性

TL;DR 通过探测 LLM 内部表示，发现其比思维链推理更真实地反映校准与证据忠实度，并可实现早期路由，节省 30-47% 推理 token 且无损精度。

问题

问题背景 LLM 在事件预测、金融研判等高不确定性场景中展现出强大能力，但仅凭准确率指标无法保证部署可靠性。业界当前高度关注模型输出的校准（confidence 与真实频率对齐）和推理的忠实度（CoT 是否反映真实决策依据）。

现有方法局限 主流方案通过微调 LLM 获得预测模型，然而输出概率往往校准不良——以 Eternis-Forecaster 8B 为例，即使准确率较高，其置信度仍可能过度自信或摇摆。现有的温度缩放、Platt scaling 等仅作用于 logits 层，无法利用模型内部更精细的不确定性表征。同时，链式思维 (CoT) 推理常被用作解释，却可能不忠实：证据消融和分心注入实验显示，模型在推理中忽略关键证据或受干扰后预测改变，而推理文本纹丝不动，即“说的和想的不一致”。现有工具难以从输出表层检测这种不一致。

为什么这个问题难/重要 预测错误可能造成高风险决策失误（如金融风控、政策推演），需同时具备可信的置信度和可审计的推理链。技术挑战在于：内部表征高维、含噪，如何从中提取泛化且稳定的校准信号？如何量化推理忠实度而不依赖人工标注？同时，业界对“模型说谎”的检测与纠正需求日益急迫，这直接关系到对推理模型的安全信任。

行业类比 如同自动驾驶系统需融合中间传感器数据（而非仅末端油门指令）以检测异常和潜在故障，LLM 预测器同样需要深入内部激活来挖掘其真实的置信度和推理依据，否则可能暗藏偏向性输出而无法被常规评估察觉。

核心洞察

• 内部表示探针能够比模型自身输出的概率获得更优的校准，揭示了 LLM 内部编码了比显式置信度更可靠的不确定性信号。该工作与通常仅依赖输出层 logits 校准的方法不同，通过在中间层激活上训练线性探针，发现跨模型（Eternis-Forecaster、GLM-4.7-Flash、GLM-4.5-Air）均大幅提升 ECE，表明隐藏状态蕴含了可迁移的校准信息，为部署更可信的预测系统提供了轻量级方案。
• 即使思维链推理文本对证据扰动不敏感，内部激活却能忠实地反映模型真实决策依据的变化，从而充当‘测谎仪’。与仅通过文本分析 CoT 忠实度的研究相比，本工作通过删除或注入证据片段的受控实验证明，内部状态的漂移可以预测最终答案的翻转方向（准确率达 84%），而表面推理保持静默，凸显了用表征审计推理过程对高风险应用的工程价值。
• 预测结果在推理开始前就已在内部提前确定，通过一次前向传播即可恢复最终答案与置信度，按预推理分布分歧筛选问题可节省 30‑47% 生成 tokens 且不损失精度。这一发现颠覆了扩展推理链可提升预测能力的直觉，与多数‘长链推理’方法形成对比，提示在流水线设计时可将推理阶段视为可选，为优化延迟与成本提供了明确的路由策略，对实际部署大规模预测系统具有直接指导意义。

方法

本工作以 Eternis-Forecaster 8B 及 GLM-4 系列等大语言模型预报器为基础，系统性地从内部表征中抽取预测信号，流程如下：

• 输入：包含历史背景与预测问题的提示，经模型前向传播后得到各层隐状态。
• 关键模块：
  1. 校准探针 (calibration probes)：在中间层激活上训练表征池化探针 (representation-pooling probes)，直接输出校准后的预测概率，替代基于思维链 (CoT) 的置信度估计。该探针相比原生的 CoT 置信度显著降低期望校准误差 (ECE)，并在不同模型上泛化。
  2. 忠实性审计：通过证据消融 (evidence ablation) 移除提示中关键信息源，或通过干扰注入 (diversionary injection) 插入误导证据，观察预测变化。同时，训练谎言探测器 (lie detector) 探针，其激活变化比推理文本更准确地跟踪行为偏移，且能以 84% 准确率预测预测方向变化，即使 CoT 文本未体现干扰影响。
  3. 前置问答与分流 (forced answering & routing)：执行一次预推理前向传播，从单一前推理 pass 的激活中恢复模型已隐含决定的答案和置信度。利用答案分布的扩散度 (spread) 作为路由标准：对高确定性样本直接给出预测，跳过 CoT 推理，从而节省 30–47% 的生成 token 量，且精度无损。
• 输出：校准后的预测、忠实性评估信号、以及基于前置答案分布的分流决策。

与依赖 CoT 文本显式推理来间接推断模型信念的方法不同，本研究直接探测内部隐式表征，揭示预报决策在推理开始前已基本固化，从而提供更忠实、更校准且更高效的分析工具。

实验

实验设计

基于 Eternis-Forecaster 8B 在 OpenForesight 预测数据集上展开实验。首先在模型中间层激活上训练 表征汇聚探针 (representation-pooling probes)，评估其校准质量，并在 GLM-4.7-Flash 与 GLM-4.5-Air 上验证泛化性。随后通过 证据消融 和 误导注入 构造受控扰动，比较探针激活与 CoT 推理痕迹对行为变化的跟踪能力。最后执行 强制回答 实验，分析预推理阶段的内部状态，并据此设计动态路由规则，按回答分布的分散度决定是否跳过完整推理。

关键发现

1. 探针校准显著优于 CoT 置信度：汇聚内部表征可直接输出更准确的概率估计，无需依赖可能不忠实的推理链。
2. CoT 忠实度不足：移除关键证据常改变最终预测，但推理文本几乎不变；探针激活能有效检测此类隐蔽偏离，并以 84% 的准确率预判变化方向。
3. 预测在推理前已基本锁定：单次预推理前向即能恢复最终答案与置信度；利用该预先分布的路由策略可 节省 30–47% 的生成 token，且精度无损。

与基线的对比深度解读

常规做法以 CoT 的语义置信度或人工审查作为校准与忠实度基准。本工作证明：内部状态探针 在 校准误差 (ECE) 上大幅优于模型自报告的置信度，对噪声注入的检测灵敏度远超文本分析；同时，预推理路由 在保持相同精度下大幅压缩推理成本，优于全量生成基线。这些优势源于探针直接从任务相关激活中学习，绕过了 CoT 可能存在的表面合理性与深层决策脱钩。结果提示，在部署预测类 LLM 时，应优先考虑探针审计层，而非仅依赖可解释性有限的文本轨迹。

行业影响

可落地的产品与业务场景

大语言模型预测系统（如市场趋势、供应链风险、用户行为预测）面临两大痛点：校准度差（输出概率与真实频率偏离）和 思维链不忠（推理过程可能掩盖真实决策依据）。本文方法通过探针（probe）提取内部表征，可直接应用于：

• 金融量化策略：对宏观指标、股价走势的预测输出进行二次校准，过滤过度自信信号，降低误判导致的仓位风险。
• 供应链与零售需求预测：在促销活动、季节性因素混杂的场景中，用探针监测模型是否真正关注了关键变量（如历史销量、竞品动作），而非仅复制表面推理模式。
• 内容平台审核与风控：对违规内容概率评估进行校准，并审计 CoT 是否隐藏了真实触发特征，提升对抗性输入的检出稳定性。

商业价值路径

• 降本：通过路由机制（routing questions by answer distribution spread）可在推理前就判断模型内部已固化的预测，跳过冗长思维链生成，节省 30–47% 的推理 token，直接降低 API 调用成本或本地算力消耗。
• 增收：在金融交易策略中，更高校准度的概率输出直接提高期望收益；在零售选品决策中，更忠实的推理增强可解释性，加速人工审核通过率，缩短决策周期。
• 体验与信任提升：审计工具让风控、合规团队能可视化模型是否“口是心非”，对高风险领域（如医疗助手、法律咨询）的采纳率至关重要。

与现有产品/工作流的集成接口

• 侧车式部署：无需修改原预测模型，在推理管道中增加一个轻量探针模块，对每步激活张量做一次前向传播，输出校准后的置信度分数和忠实度标志。可与 LangChain、vLLM 等框架的 callback 机制集成，对批量请求实时拦截。
• 决策路由网关：基于预推理激活（pre-reasoning pass）计算答案分布离散度，低于阈值则直接返回预设答案，高于阈值才触发完整 CoT。该逻辑可封装为推理引擎插件，适配 OpenAI API 风格服务。
• 离线审计流水线：对历史预测日志做滞后分析，探针预测的行为偏移与 CoT 文本不一致的样本自动标记，供人工复核，形成持续改进的数据集。

具体用例：

1. 电商大促销量预测：促销期间历史规律失灵，模型可能表面引用“去年双11数据”但内部实际依赖近期搜索热度（探针揭露）。用探针实时监测并校准，策略团队可视情况手动 override，避免断货或积压。
2. 金融研报观点一致性检查：当分析师模型对某股票给出“看涨”结论时，CoT 可能列举利好因素，但探针发现其激活模式更接近利空样本（隐含矛盾）。系统自动标记该研报需人工复核，减少合规风险。

局限

• **依赖探针训练**：提升校准与审计忠实性的核心手段是训练**表示探针**，这需要额外的标注数据来构建分类器。在实际部署中，为每个新任务或领域收集足够的标注样本可能成本高昂，且探针对分布偏移敏感，跨模型或跨数据分布的泛化性能未充分验证，限制了即插即用性。
• **任务与模型范围有限**：实验主要围绕 **OpenForesight** 预测任务及**8B** 参数规模的模型（含 **GLM-4** 系列），未在更广泛的任务类型（如数学推理、代码生成）或更大模型上评估。预测任务特有的多步推理与置信度估计特性，可能使得**预推理答案固定**等发现无法直接迁移到其他推理场景。
• **强制回答路由的普适性存疑**：基于**预推理前向传播**即可恢复答案与置信度的发现，可能高度依赖模型针对预测任务的微调架构。在更通用的推理模型中，这种早期固定效应可能减弱；此外，路由节省的 token 比例会随任务难度波动，需更多 ablation 验证其稳健性与适用边界。