动态

优化搜索工具,扫描嵌入/检索/重排序参数,提升代理准确率

优化搜索工具,扫描嵌入/检索/重排序参数,提升代理准确率
Abdallah Bashir
从搜索工具开始。单次调用经过三个步骤:嵌入查询、从索引中检索候选、重新排序。我们扫描了嵌入维度、检索方法和重排序器大小,以绘制质量-延迟前沿,然后分为三种配置:快速、强、最大。每次调用的延迟更高,但每一步的nDCG@5都更高。重排序器主导了质量。没有它,nDCG@5从0.203下降到0.089。2B重排序器以一半的每次调用延迟获得了6B重排序器约79%的质量。更好的单次调用质量是否真的有助于端到端的代理?是的,有趣的部分在于如何做到。强(6B重排序器)达到了50.0%的准确率,而快速是45.5%,且工具调用次数相同(1.6次)。规划器并没有搜索更多,只是每次调用得到更好的结果,并提前终止[2/n]。
动态Abdallah Bashir2026-03-05原文

相关内容