分享上下文压缩经验,压缩必然丢失信息
RT
@yan5xu
: 正好也分享一下关于上下文压缩这个事情。
我之前对上下文压缩这个事情也很头疼,尝试过各种压缩办法,摘要、滑动窗口等等,无论哪种总会发现后续工作会因为一些信息没了,不符合我的预期。
后来想明白了,是压缩就一定会丢失信息,所以解决上下文窗口有限的办法不是不…
https://
x.com/yan5xu/status/
/yan5xu/status/2032477267973255591
…
@yan5xu
: 正好也分享一下关于上下文压缩这个事情。
我之前对上下文压缩这个事情也很头疼,尝试过各种压缩办法,摘要、滑动窗口等等,无论哪种总会发现后续工作会因为一些信息没了,不符合我的预期。
后来想明白了,是压缩就一定会丢失信息,所以解决上下文窗口有限的办法不是不…
https://
x.com/yan5xu/status/
/yan5xu/status/2032477267973255591
…
@TarunAmasa 询问了上下文压缩问题,这里分享我的方法。我为此纠结了很久。尝试了各种压缩方式——摘要、滑动窗口,你能想到的都有。每种方法都有信息丢失导致下游性能下降的情况。我的结论: