平稳（因此兼容）表示就是一切

TL;DR 通过 d-Simplex 固定分类器学习平稳表示，让模型在序贯微调与替换时天然兼容，无需重新处理 gallery 即可持续检索，且性能提升至最优。

问题

问题背景

在检索与识别系统中，模型随着时间不断更新（如加入新类别或适应分布漂移）时，新旧模型产出的特征表示通常不兼容，导致已入库的图库特征（gallery features）必须重新提取，造成高昂的计算代价和服务中断。兼容表示学习（compatible representation learning）正是要解决这一问题：让更新后的模型产出的特征可以直接与历史特征互换使用，而无需对图库重新编码。

现有方法局限

早期兼容学习方法多依赖后处理（如特征映射、重归一化）或联合训练新旧模型，缺乏严格的理论保证，且容易在多次连续更新后累积漂移。利用d-Simplex固定分类器结合交叉熵损失学习到的平稳表示（stationary representations），虽然能保证特征的一阶统计量（均值）在不同模型版本间对齐，但未能捕捉高阶依赖（如协方差结构、特征间相关性）。这导致在序列微调（sequential fine-tuning）过程中，深层特征分布仍可能发生偏移，兼容性不完全，尤其当模型面临显著的任务变动或多次更新时，性能退化明显。

为什么这个问题难/重要

兼容表示的核心难点在于：模型更新时不仅需要拟合新任务，还要强制维持特征空间的不变性，这本质上是一个带约束的优化问题。一阶对齐容易实现，但高阶统计量的保持需要更复杂的损失设计，否则模型会倾向于利用表示空间的自由度来提升当前任务精度，从而破坏兼容性。从工程角度看，持续运行的检索服务（如安防监控、电商以图搜图）对不间断服务和低运维成本有刚性需求，业界迫切需要一种即插即用的兼容学习方法，避免每次模型升级都触发昂贵的全量图库重处理。

行业类比

这类似于大规模人脸识别门禁系统：当识别模型因为安全需要而频繁更新时，如果每次都要对数百万注册用户重新提取特征，不仅计算资源巨大，还会导致服务窗口期不可用，而平稳表示使得新模型产出的特征能直接比对旧特征库，实现无缝升级。

核心洞察

• 平稳表示(Stationary Representation)通过d-Simplex固定分类器学习，理论上直接蕴含跨版本兼容性，为模型平滑更新提供了无需额外对齐训练的基础。相比以往依赖后处理特征变换或重训图库的方法，它从训练目标本身保证了新旧模型特征在类原型空间的一致性，大幅降低了检索系统维护成本。
• 引入对比损失与交叉熵损失的凸组合，使模型在保持平稳表示的同时显式捕获特征分布的高阶依赖关系，超越了单纯对齐一阶统计量的局限。这相当于在兼容约束下进行交叉熵优化，既增强了特征判别力，又避免了模型更新导致的特征漂移，是一种轻量且有效的改进方案，易于集成到现有微调流程中。

方法

方法核心：基于 d-Simplex 固定分类器的平稳表示学习

该方法旨在解决模型持续更新时特征表示的兼容性问题，核心思路是通过固定分类器约束特征空间，使每次更新后的模型都能产生可互换的表示。

关键组件：

• d-Simplex 固定分类器：使用一个固定的、符合 d 维单纯形结构（如正交 one-hot 向量）的分类器，在训练全程保持不变。特征提取器强制将样本映射到该分类器的“标准方向”上，形成平稳表示。
• 顺序微调中的损失设计：
  1. 仅用交叉熵损失配合固定分类器，能对齐特征的一阶统计量（均值），但忽略高阶依赖（如协方差）。
  2. 引入对比损失后，与交叉熵做凸组合。对比损失显式拉近同类、推远异类，捕获表示的高阶依赖。
  3. 该凸组合损失被证明等价于在兼容性约束下优化交叉熵，从而统一了兼容性目标与训练目标。

工作流程：

• 预训练模型以 d-Simplex 固定分类器 + 交叉熵损失初始化。
• 当新数据到来，模型进行顺序微调，使用上述凸组合损失（交叉熵 + 对比损失）。
• 由于分类器恒定，所有版本的模型输出都在相同的“坐标系”中，旧特征（如检索库中的图库图像特征）无需重新提取即可与新特征直接比较，实现不间断检索服务。

与同类方法的差异：传统兼容性学习通常需要蒸馏旧模型、维护回放数据或添加正则化约束，而本工作仅凭固定分类器与联合损失，无需存储旧模型或旧特征，既保证了理论上的兼容性，又在更新和替换模型时持续提升性能，为持续学习下的检索任务提供了简洁高效的基准方案。

实验

实验设计

论文在两个增量场景下验证：CL2R（Compatible Learning to Rank）和IAM-CL2R（模型替换场景）。基础架构使用 d-Simplex 固定分类器，对比了三种训练策略：纯交叉熵损失、纯对比损失、以及二者的凸组合（convex combination）。数据集上采用 TinyImageNet20 和 CUB20（精细分类检索子集），并引入现实中预训练模型被顺序微调并间歇性替换的设置，模拟实际检索系统的迭代更新。

关键发现

1. 平稳表示→天然兼容：理论证明 d-Simplex 约束下学习到的平稳特征满足兼容性的形式定义，模型升级时无需重新处理图库（gallery）图像即可直接互换查询。
2. 高阶依赖的必要性：尽管交叉熵损失对齐了一阶统计量，但不足以维持语义结构的高阶一致性；加入对比损失可捕获表示中的高阶依赖，并等价于在兼容约束下进行交叉熵优化。
3. 无缝模型替换：在新提出的 IAM-CL2R 场景中，平稳表示实现了不间断的检索服务，即使在模型被更优版本替换时，性能仍持续提升，无需离线重索引。

与基线对比的解读

传统兼容学习方法（如知识蒸馏、特征变换）通常需要额外的对齐步骤或存储旧特征，而本文方法仅依赖固定的分类器极性（d-Simplex）即可在顺序微调中维持兼容。与仅使用交叉熵的强基线相比，凸组合损失在检索召回率上显著改善了兼容性上限，同时保持甚至提升了绝对性能；与纯对比损失相比，则避免了训练不稳定的问题，提供更平滑的兼容性-性能权衡。该方案在计算开销上几乎无额外成本，为实际检索系统的持续机器学习（Continual ML）提供了简洁高效的新范式。

行业影响

落地场景

论文提出的 stationary representations 与 d-Simplex 固定分类器 可直接赋能所有依靠特征提取且需周期性更新模型的检索系统。典型场景包括：电商平台的商品以图搜图、社交媒体内容审核（违规图片匹配）、安防人脸识别、医疗影像检索以及推荐系统。这些系统普遍存在“模型更新后必须重建底库特征”的痛点，本方法提供了即插即用的兼容性方案。

商业价值

• 降本：消除模型更新时的全量特征重提取开销，在十亿级图片库中可节约 GPU 集群数天以上的计算成本与存储迁移成本。
• 体验提升：真正实现不间断检索服务——新模型上线无需停机或预加载，用户无感知切换，保障高可用性。
• 性能增益：通过 convex combination of cross-entropy and contrastive loss 捕捉高阶依赖，兼容性约束下模型准确率同步提升，直接增强检索/匹配质量，提高转化率或审核效率。

与现有工作流集成

方法基于标准的视觉骨干（如 ResNet、ViT）和 PyTorch 框架，可轻量嵌入现有持续学习管道。仅需做两点修改：

1. 用 d-Simplex 固定分类器 替换普通分类头；
2. 训练时采用 cross-entropy + contrastive loss 的凸组合目标函数。 推理流程完全不变，已有索引的特征库无需改动。提供的 开源代码 可直接复用。

具体落地用例

1. 电商以图搜图：时装平台每季度需要微调模型以适应新品款式。传统方式需重新提取全量商品特征，耗时且可能中断服务。采用本方法，新模型直接复用原有特征索引，实现秒级热切换，搜索召回率不降反升。
2. 社交媒体内容审核：平台更新违规图片识别模型后，面对数百亿历史图片库，无需重新处理特征。仅需加载新模型权重，即可基于现有特征进行实时匹配，大幅缩短模型上线周期，降低运营风险。

这两个场景均验证了 stationary representations 的价值：让特征成为真正可互操作的资产，而不被模型版本束缚。

局限

• **固定类别数假设**：方法依赖 d-Simplex 固定分类器，其类别数 d 在训练前即确定且不可更改。这阻碍了在开放动态环境中新增类别（category-incremental learning），而许多实际检索系统需要持续添加新实体。论文未讨论如何扩展至类别增量场景，限制了方法的通用性。
• **对比损失的高阶依赖捕捉代价**：为捕获特征分布的高阶统计量，需要引入对比损失，该损失依赖正负样本对的构建（通常需要回放旧样本或存储大量示例）。在实际部署中，存储或访问历史数据可能触犯隐私法规或造成存储负担，论文未提供缓解此问题的无回放（rehearsal-free）方案。
• **任务与数据集的局限性验证**：实验主要围绕小规模图像检索数据集（CUB, TinyImageNet）展开，尽管验证了平滑检索服务，但未在更大规模、高分辨率或跨模态检索任务上评估方法的可扩展性与鲁棒性。对于计算资源消耗（如对比损失带来的额外开销）也未定量分析，可能导致工程落地时的不确定性。