探讨LLM上下文窗口的实际最大容量及填充技巧
即使是弄清楚“真正的”上下文窗口也不是一项简单的任务。
根据我的经验，你不能真正最大化上下文窗口的大小——你必须恰到好处地填充它，否则你会发现创造力/准确性等开始下降。
根据我的经验，你不能真正最大化上下文窗口的大小——你必须恰到好处地填充它，否则你会发现创造力/准确性等开始下降。
+1 支持“上下文工程”而非“提示工程”。
人们将提示与你日常使用中给LLM的简短任务描述联系起来。而在每个工业级LLM应用中，上下文工程是一门精巧的艺术和科学，涉及填充上下文窗口。