线性表示假说需要一个群作用

TL;DR 线性表示假说并非单一命题，而是一族由表示等价性区分的声明；本文用群作用形式化这种等价性，指出不同度量/探针/干预其实对应不同假设，并审计现有可解释性实践。

问题

问题背景

可解释性研究普遍依赖 Linear Representation Hypothesis (LRH)，即概念在模型激活空间中被线性编码。但不同工作对“同一表示”缺乏一致定义，导致跨模型结论难以比较。

现有方法局限

常见实践直接对某层激活拟合线性探针、用 CKA 或 PWCCA 比较表示、或用激活向量做 steering intervention，但这些方法隐含不同的等价关系。例如：

• 探针只要求线性可分，对基的任意可逆线性变换不敏感；
• CKA 在正交变换下不变，但对更一般的线性变换敏感；
• 激活干预依赖具体坐标方向，基变换会完全改变干预效果。 由于未显式声明等价群，同一“线性表示”在不同度量下可能不兼容。同一分析内部也可能因存储格式、归一化方式或读取点不同而不一致，从而产生误导性结论。

为什么难/重要

核心挑战在于模型架构自身引入了对称性：Transformer 的 multi-head attention 存在头置换对称、RoPE 带来旋转等变性、残差流允许基变换。这些架构诱导的变换群并不显然，却被大多数分析忽略。若不能把表示对象、产生过程和最终断言的性质放在统一的群作用框架下，就无法判断两个表示是否真正等价。这直接关系到可解释性审计、字典学习、模型编辑等任务的可信度。

行业类比

类似在联邦学习中比较不同参与方上传的梯度：未对齐坐标系就做聚合，看似一致的数值可能因局部旋转而严重失真。

核心洞察

• 线性表示假说并非单一断言，而是一族由表示等价性区分的声明。该文指出，不同等价关系（如正交变换、缩放、仿射变换）保留不同结构，因此度量、探针和干预看似研究同一表示，实际可能对应不同假说。这之所以独特，是因为以往工作常将存储格式或默认规范化当作表示本身，未显式声明等价性，导致跨模型比较或干预结论不可迁移。它迫使研究者明确“何种变化只是描述差异”，而非在隐式假设下比较。
• 群作用形式化将表示对象、产生过程和最终属性显式声明，并纳入架构诱导的对称性（如 rotary 位置编码的交换群）。该框架提供了一种审计方法：追踪归一化、校准、读取点选择等分析阶段中等价性如何传递或破坏，从而识别组合阶段产生的无效量。与 CKA、Procrustes 等固定等价性的表示比较方法不同，它要求研究者主动选择等价性，而不是默认某个度量，这暴露了常见分析中隐式假设的断裂和自相矛盾。
• 对常见表示量（激活、探针权重、干预向量）进行对称性审计，发现同一分析内常出现不一致的等价性选择，例如干预向量与探针方向使用不同的规范化。这警示从业者在设计可解释性实验时必须声明等价性，否则得到的“线性方向”可能是规范化伪影。相比单独提出对称性修正的个案工作，本文提供了通用审计原则，可系统检查下游分析是否在架构等效类上定义良好，从而避免将描述约定误认为表示属性。

方法

输入

给定一个关于模型表示的具体主张，包括：表示对象（如残差流、注意力输出）、产生该表示的程序（训练/推理阶段、读取点）、最终断言的属性（如线性可分、可操控）。同时输入模型架构所强制的对称性群（如 Rotary 位置编码下的旋转等变性）。

关键模块

1. 表示等价性定义：用群作用定义等价关系，两个表示视为等价若存在某个群元素将它们互相映射；不同群保留不同结构，对应不同假设。
2. 规范化规格说明：将任意“线性表征”主张写成三元组 (对象, 程序, 属性)，并明确施加的架构等价群；由此区分同一存储格式下可能蕴含的多个假设。
3. 架构地板与阶段组合：分析架构本身强加的等价关系（例如 rotary commutant 导致的对称性），并考察多阶段分析（探针、干预、字典学习）中对称性如何被保持或破坏。
4. 审计框架：应用上述规格审计常见表示量与近期可解释性工作，指出哪些度量和探针实际测试的是不同等价类下的性质。

输出

得到一个规格说明，明确当前分析属于线性表征假设家族中的哪一个成员；指出分析各阶段（读取点、归一化、校准）中隐含的等价假设是否一致，并识别架构地板对结论的约束。

差异点

与以往把 Linear Representation Hypothesis 当作单一命题不同，本文用群作用将其拆解为可检查的假设族，强调“线性”本身不足以确定等价关系，必须显式指定架构诱导的对称性。

实验

实验设计

本论文不包含传统数值实验，而是采用形式化分析 与案例审计。作者首先定义表征等价性，引入群作用框架，将线性表征假说分解为一族命题。随后选取近期可解释性工作中的常见表征量（如线性探针、激活操控、字典学习）进行审计，揭示隐含的等价选择。

关键发现

• 线性表征假说并非单一假说，而是一族由表征等价关系 区分的命题。
• 不同的等价性（如正交变换、置换、缩放）保留不同结构，可能导致指标、探针和干预研究的是不同对象。
• 模型架构（如 RoPE）会强制某些对称性，称为架构地板，影响有效表征。
• 分析流程中多阶段组合会产生等价性漂移，需要显式声明。

与基线对比

以往研究往往隐含假设表征等价性而直接应用线性探针或干预，本文提出显式指定等价关系的框架，弥补了这一鸿沟。相比纯经验工作，本文提供理论澄清，不引入数值指标，但为后续实证设计提供依据。

行业影响

落地场景

论文提出的 群作用 框架为表征等价性提供了显式规范，可直接用于 可解释性工具（如线性探测、激活操控、字典学习）和 模型行为审计 产品。具体场景：

• 电商推荐系统：用线性探测分析用户意图表征，但若忽略不同初始化或旋转等价性，同一模型不同训练种子可能得出相反结论。按论文的等价性规格记录 representation object 和 procedure，可让 A/B 测试中表征漂移可归因。
• 内容平台 的风险分类器：对嵌入做线性可分离性审计时，显式声明群作用（如 O(d) 旋转等价）可避免因存储格式或归一化导致误报，提升合规审计可信度。

商业价值

• 降本：减少因表征等价性不明导致的重复实验和错误干预。例如，模型编辑团队按等价性规格复用表征，避免每个项目重新验证。
• 增收/体验：更可靠的可解释性增强用户信任，尤其面向企业级 AI 审计服务；标准化表征接口可加速第三方工具集成。
• 风险控制：帮助金融机构或医疗 AI 满足监管对模型决策可解释性的要求。

与现有产品/工作流接口

可将论文的 规格化框架 实现为配置层或元数据标准，集成进 MLOps 流水线：

• 在 模型注册表 中为每个表征存储 architecture-induced symmetries 字段（如 transformer 的 rotary commutant 信息）。
• 可解释性库（如 TransformerLens、Captum）增加 representation_spec 参数，自动校验探测或干预是否保持等价性。
• 评测基准在报告表征指标时附注等价性声明，与现有 model card 结合。

局限

• **缺乏实证验证**：论文主要采用概念分析与案例审计，没有针对所提出的群作用框架开展新的定量实验或构造可复现的基准。这导致框架的实用价值难以直接评估，尤其对于非专家而言，如何为具体模型选择合适的变换群仍依赖主观判断，缺乏自动化或标准化的指导原则。
• **适用边界不清晰**：讨论主要围绕线性表示和模型架构中的对称性展开，对非线性表示、动态系统或跨模态场景的适用性未做深入分析。实际模型中架构对称性可能并不总是显式可计算，例如注意力机制的稀疏变体或量化模型，这限制了框架在更广泛模型家族中的直接应用。
• **与现有工具相比操作性不足**：已有表示比较方法（如 CKA、PWCCA）和不变性度量已经隐式处理了部分等价关系，而本文没有提出新的度量算法或干预策略，更多是对现有实践的批判性澄清。对于工程团队而言，框架的概念收益可能难以快速转化为可落地的分析流程。