DeepSeek推理缓存命中率96.56%，GPU时间减半

DeepSeek 在推理方面非常出色——在我们高流量下缓存命中率达到 96.56%。对我们来说第二好的提供商是 91.60%。这看起来不多，但意味着他们使用的 GPU 时间少了约 2 倍。