Runware 发布模块化数据中心 Sonic Inference Pod
Runware 用可移动的模块化数据中心应对推理需求增长，挑战传统超大规模数据中心的建设模式。
Runware 推出 Sonic Inference Pod，一种可整体运输的模块化数据中心，声称推理质量更高、成本更低。它可部署在靠近用户的任何有电之处，延迟更低，且采用闭环冷却、无需用水，几天即可建成，能快速扩容。目前已有 10 个 Pod 部署于美国、欧洲和亚太地区。
正文摘录
周二，AI 基础设施公司 Runware 宣布推出自研的模块化数据中心 Sonic Inference Pod。该 Pod 被设计为单个可运输单元，代表了一种更灵活的计算形态，可以与超大规模云厂商的巨型数据中心项目并存。 Runware 表示，与其他 serverless 推理平台和 GPU 云相比，该 Pod 能以更低成本提供更高质量的推理。模块化设计意味着可以通过创建新 Pod 快速增加容量，而不必扩展固定数据中心。Runware 联合创始人兼 CEO Flaviu Radulescu 告诉 TechCrunch，从某种意义上说，这就是未来。 “我们相信，分布式计算——部署在离最终用户更近的位置以加快推理——长期来看会胜出。”他表示，并以自家公司为例。除了价格更低，Radulescu 还指出，Runware 系统可以快速扩展和增加容量，可在任何有电的地方部署，并能迅速适应新硬件版本。Runware Pod 也不用水，而是采用闭环冷却系统，几日内即可建成，相比之下传统数据中心需要数月甚至数年。 “推理需求增长的速度超过了设施建设速度，”Radulescu 说。“我们想要做的是驱动全球智能，成为每个 AI 模型运行的骨干，让容量跟上需求而不是限制需求。” Runware 目前在 美国、欧洲 和 亚太 部署了 10 个 Pod，Radulescu 说。该公司已向包括 Higgsfield AI 和 Wix 在内的几家公司提供推理服务，并已有 160 个站点可以为 Pod 供电。