重复提示可提升LLM准确率,无需额外成本
LLM从左到右处理文本——每个token只能回头看前面的内容,无法看到后面。这意味着,当你写一个长提示,把上下文放在开头,问题放在结尾时,模型在“看到”上下文后回答问题,但上下文token在生成时并不知道后面会有什么问题。这种不对称性是这些模型工作方式的基本结构特性。
论文探究了如果连续发送两次提示会发生什么,这样输入的每一部分都会得到第二次处理,可以关注到其他所有部分。答案是,在七个不同的基准测试和七个不同的模型(来自Gemini、ChatGPT、Claude和DeepSeek系列LLM)上,准确率都提高了,而且模型输出长度没有增加,响应时间也没有显著增加——因为输入处理本来就是由硬件并行完成的。
无需计算新的损失,无需微调,除了重复本身之外,无需巧妙的提示工程。
这种技术与什么都不做之间的差距有时很小,有时很大(一个模型在从列表中查找名字的任务上从21%提升到97%)。如果你正在思考如何在不支付更长输出或更慢响应的情况下从这些模型获得更好的结果,这是一个相当具体且低成本的发现。
与AI导师一起阅读:
https://
chapterpal.com/s/1b15378b/pro
mpt-repetition-improves-non-reasoning-llms
…
获取PDF:
https://
arxiv.org/pdf/2512.14982
论文探究了如果连续发送两次提示会发生什么,这样输入的每一部分都会得到第二次处理,可以关注到其他所有部分。答案是,在七个不同的基准测试和七个不同的模型(来自Gemini、ChatGPT、Claude和DeepSeek系列LLM)上,准确率都提高了,而且模型输出长度没有增加,响应时间也没有显著增加——因为输入处理本来就是由硬件并行完成的。
无需计算新的损失,无需微调,除了重复本身之外,无需巧妙的提示工程。
这种技术与什么都不做之间的差距有时很小,有时很大(一个模型在从列表中查找名字的任务上从21%提升到97%)。如果你正在思考如何在不支付更长输出或更慢响应的情况下从这些模型获得更好的结果,这是一个相当具体且低成本的发现。
与AI导师一起阅读:
https://
chapterpal.com/s/1b15378b/pro
mpt-repetition-improves-non-reasoning-llms
…
获取PDF:
https://
arxiv.org/pdf/2512.14982