集群处理峰值负载,可降价15x,质疑同行未尝试基本做法
我们的集群完美处理了峰值负载,这意味着我们可以收费降低15倍。这个领域的许多团队一直在思考商业模式等等,很奇怪他们没尝试过像这样的基本事情。
我们正在测试运行自己的GPU,托管一个好模型能有多便宜。过去17小时的流量表明,我们可以收费比目前最便宜选项低7倍,实现收支平衡。测试仍在早期,但前景不错。
我们正在测试运行自己的GPU,托管一个好模型能有多便宜。过去17小时的流量表明,我们可以收费比目前最便宜选项低7倍,实现收支平衡。测试仍在早期,但前景不错。