动态

分析AI编码代理的token缓存成本

分析AI编码代理的token缓存成本
dax
如果这些是用于编码代理的,那么99.8%的输入令牌可能都被缓存了。这些虽然成本不为零,但便宜约8倍。此外,我猜他们可能有至少20%的折扣。不过数字仍然惊人。
Franklyn Wang
Meta贡献了Anthropic三分之一的收入?每月60万亿令牌 = 9亿美元/月 = 年化100亿美元?这也是历史上最大的企业合同。
动态dax2026-04-07原文

相关内容