DeepSeek 开源推理框架 DeepInfer，披露单卡每小时收入 38 美元
推理框架决定了同一张卡能同时服务多少用户，DeepSeek 首次公开这套工程能力的数据，让外界得以推算大模型 API 的真实毛利空间。
DeepSeek 以 Apache 2.0 许可证开源了内部推理框架 DeepInfer 及 token 编解码组件 deepseek-recipe，前者支撑其大规模推理服务，当前支持 V4.1-Flash。官方披露单个集群日吞吐 155 万亿 token，按 API 谷价折算每卡每小时收入 38 美元；有人据此按每张 B300 每小时 7 美元的租金成本，估算毛利率约为 82%。
正文摘录
.jpg) 编辑｜泽南 没想到这也开源了。 10 月 20 日下午，DeepSeek 开源了内部使用的推理框架 DeepInfer，以及配套的 token 编解码组件 deepseek-recipe。  DeepInfer 是目前支撑 DeepSeek 大规模推理服务的基础，本次以 Apache 2.0 许可证发布，当前支持 DeepSeek-V4.1-Flash。 这次发布迅速引起了关注。昨天大家讨论的还是「DeepSeek 现在让所有人都能快速部署自己的 AI 模型了」，今天转念一想：不对，大模型推理怎么这么赚钱啊？ DeepSeek 披露，基于这套系统，单个集群每天服务的吞吐量达到 155 万亿 token，按 API 谷价算，整体收入达到每卡每小时 38 美元 。