清华提出 Jev-LDE：对检索到的 ICL 示例做一次局部编辑，1-shot 平均准确率从 81.2% 升至 88.1%
清华用一个小模型给检索出来的 few-shot 示例做一次增删换，就能让目标 LLM 的 1-shot 准确率涨约 7 个百分点，省去昂贵的组合搜索。
大模型做 ICL（上下文学习，把几个示例直接写进 prompt 让模型照着答题）时，检索出来的 Top-K 示例未必适合目标模型。清华自动化系研究者提出 LDE：不重新搜索整个示例组合空间，只在已有示例集合上做一次 Keep / Delete / Replace 编辑，并训练小型编辑模型 Jev-LDE 来选动作。在 48 个分类配置中 46 个优于 Semantic TopK 起点，跨 3 个数据集、4 个目标 LLM 的 one-shot 平均准确率由 81.2% 提升到 88.1%。
正文摘录
.jpg)  大模型做 In-Context Learning（ICL，上下文学习）时，通常会先从示例库里检索若干 demonstration，再把这些示例和当前问题一起放进 prompt。 但检索得到的 Top-K 并不一定适合目标模型。示例过多会增加上下文和推理成本，无关或重复的示例也可能影响模型对当前问题的判断。 如果直接从候选池里重新寻找最优的 k 个示例，组合数量会迅速增加；一些 model-aware 方法还需要反复调用目标 LLM，对不同 demonstration set 进行评估。 清华大学自动化系研究者提出了 Local Demonstration Editing（LDE） ，并训练了一个小型编辑模型 Jev-LDE 。它不负责最终答题，而是在目标 LLM 推理前，对已经检索出的 demonstration set 做一次编辑，只允许 Keep、Delete 或 Replace 三种操作。 实验中，Jev-LDE 在 48 个分类配置中有 46 个优于 Semantic TopK 初始化结果，在 44 个配置中取得最好或并列最好结果；