理解上下文大小与压缩对模型性能的影响

我开始意识到理解上下文大小、上下文腐烂、上下文压缩以及类似行为的重要性，这样才能理解为什么这些模型经常表现不佳。例如，为什么当你给它一大段内容时，模型会“忘记”其中的部分内容等。