动态

缓存不失效不一定省钱,带来更多上下文和压缩,增加工具调用成本

dax
甚至不能保证不破坏缓存会导致净成本更低

从不接触历史意味着更多的上下文使用,我们都知道这会让LLM变笨

最终需要更多的压缩,而这又需要更多的工具调用来重建上下文

我们正试图更精确地说明这一点并分享一些数据,但我们在与那些做出无根据断言的人进行一场艰难的斗争
动态dax2026-04-13原文

相关内容