Baseten CEO Tuhin Srivastava 谈AI推理瓶颈、定制模型与构建推理云
推理是AI决胜关键,应用层公司可通过用户数据定制模型构建护城河。
嘉宾Tuhin Srivastava
节目简介
推理需求爆发,Baseten 实现 30 倍增长。推理正成为AI最后的战略市场。应用层公司凭借独特用户信号,通过工作流和后期微调定制模型来锁定价值。GPU 供给紧张,Baseten 构建跨 18 个云、90 个集群的多云架构,通过长期合同和软件层粘性应对。
推理是AI决胜关键,应用层公司可通过用户数据定制模型构建护城河。
嘉宾Tuhin Srivastava
推理需求爆发,Baseten 实现 30 倍增长。推理正成为AI最后的战略市场。应用层公司凭借独特用户信号,通过工作流和后期微调定制模型来锁定价值。GPU 供给紧张,Baseten 构建跨 18 个云、90 个集群的多云架构,通过长期合同和软件层粘性应对。