动态

分析Kimi K3开源后部署集群卖Token的可行性

Vincent
今晚 Kimi K3 权重一开源,我猜很快就会有人动起“赛博地主”的心思:买显卡、建集群、部署 K3,然后对外卖 Token 收租。

这门生意听起来挺美,认真算一遍就会发现,最难的根本不是买显卡,而是让 GPU 每天都有活干。

国内真要部署,乌兰察布这类成熟的高功率 IDC 比较合适。综合电价大约 0.33—0.36 元一度,部分数据中心 PUE 能做到 1.2 左右,电价、网络和运维条件都还不错。

先拿 64 张 H20 算笔账。

8 台八卡服务器,加上 400G 高速互联、存储、交换机、光模块和备件,整套集群大约要 1100 万—1400 万元,取个中间值就是 1200 万。

很多人第一反应是电费很贵,其实电费反而不算什么。整套集群连制冷按 50—70kW 计算,一年也就 15 万—22 万元。

真正烧钱的是折旧和运维:

设备按三年折旧,每年约 400 万元;机柜、带宽和专线每年约 50 万—80 万元;运维、维修、备件和推理平台还要 100 万—160 万元。

全部加起来,这套集群每年至少要赚回 570 万—660 万元,才算没白忙。

按照 Kimi K3 当前的 Token 价格估算,假设输入输出比例是 5:1,一半输入命中缓存,每百万 Token 的平均收入大约是 26 元。

想覆盖一年约 600 万元的成本,全年平均销量要接近 7300 Token/s。

如果价格比官方便宜 20%,集群平均利用率又只有 70%,额定可售吞吐至少得做到 1.3 万 Token/s,才有机会三年回本。

问题也出在这里:现在还没有实测能证明,64 张 H20 可以长期、稳定地把 K3 跑到这个吞吐。

所以真让我投,我不会一上来就花 1200 万买设备,而是先租。

在乌兰察布租一套同一高速互联域内的 64 卡集群,跑两三个月。租赁、网络、存储和部署服务全部算进去,准备 100 万—150 万元,差不多够做完第一轮验证。

这段时间就看两件事:技术上,真实吞吐和高并发、长上下文到底稳不稳;商业上,有没有客户愿意长期付钱。

连续三个月 GPU 利用率超过 50%,手里也拿到长期合同,再考虑自己买设备。

而且别跟 Kimi 官方拼裸 Token 价格。真正可能付高价的客户,是那些要求私有数据不出域、独享实例、稳定并发和企业 SLA 的公司。

传统地主怕写字楼空置,赛博地主怕 GPU 利用率只有 20%。

显卡可以买,电也不算贵。最难找的,还是那些愿意长期交租的客户。
动态Vincent2026-07-27原文

相关内容