Nvidia 投资印度初创 Simplismart,用软件降低 AI 推理的 GPU 依赖
Nvidia 投资一家通过软件提升推理效率的印度公司,说明算力紧张时“把现有 GPU 用得更省”本身成为一门生意,也侧面反映推理软件层竞争在升温。
随着 AI 算力需求紧张,Nvidia 参与印度创业公司 Simplismart 的 1400 万美元 B 轮融资(全部为新发行股份),Accel、Shastra VC、Micromax 跟投,Dallas Venture Capital 领投;投后估值约 1 亿美元。Simplismart 的软件部署在模型与算力之间,自动调整模型部署方式,在响应速度、吞吐量和 GPU 占用之间做权衡;客户可以继续使用现有云或本地基础设施,不必自己调参。
正文摘录
随着 AI 热潮让算力供给吃紧,Nvidia 投资了印度创业公司 [Simplismart](https://simplismart.ai/),参与其 1400 万美元融资,押注的是帮助企业在更高效、有时用更少 GPU 的前提下运行 AI 模型的软件。 这轮全部为新发行股份的 B 轮融资中,Nvidia 与 Accel、Shastra VC、Micromax 一同参投,Dallas Venture Capital 领投。该交易对这家成立四年的创业公司估值约 1 亿美元(含新融资)。 如今企业在 GPU 上投入巨大以支撑 AI 应用,但要在大规模下稳定且经济地运行这些模型仍是难题。不同工作负载在速度、成本与性能之间需要不同的取舍;为满足业务需求而部署和运维 AI 模型,往往还需要复杂的调优。Simplismart 表示,其软件能自动完成其中大部分工作,针对现有算力基础设施定制模型的运行方式,而不必让客户自己管理这些配置。 "其实没有人真的需要最快或最便宜的推理,"Simplismart 联合创始人兼 CEO Amritanshu Jain(上图左)在接受采访时说。他补充道,企业真正需要的是以适合其具体应用的速度和成本来运行 AI 模型。 Simplismart 的软件位于 AI 模型与其运行的算力基础设施之间,通过调整模型的部署与管理方式来满足客户需求。该公司称,它可以优化模型响应速度、承载请求数量以及消耗的算力等因素,帮助企业把现有 GPU 资源用得更充分。 这家总部位于班加罗尔(Bengaluru)的创业公司,让企业可以通过其自有平台,或在企业既有的云端与本地基础设施内部署和运行 AI 模型。它还提供模型微调、随需求变化自动扩缩算力资源以及性能监控的工具。此外,Simplismart 还让云服务商能基于 GPU 基础设施,用它的软件搭建并运营自己的 AI 推理服务。