Microsoft Research：机器人推理可卸载到边缘或云端 GPU
微软研究院实测发现机器人推理不必绑定在机载 GPU 上，卸载到边缘或云能提升成功率与续航，并给出 Kubernetes 分布式推理工具链。
Microsoft Research 首次系统测量了机器人推理负载，指出把物理 AI 的推理全部放在机器人自带 GPU 上，会限制任务成功率、电池续航和可扩展性。在移动操作类任务上，把推理卸载到边缘或云端 GPU 后，成功率提升、可跑更大的模型、动态环境下的响应也更好。
正文摘录
 概览 - 挑战机器人 AI 的一个核心假设：我们的研究表明，把物理 AI 推理完全放在板载 GPU 上运行，会限制机器人的性能、电池续航与可扩展性；而把推理卸载到边缘或云端 GPU，可以带来显著优势。 - 展示推理卸载的可量化收益：在一批有代表性的移动操作（mobile manipulation）工作负载中，卸载推理提升了任务成功率、让更大的 AI 模型得以运行，并帮助机器人在动态的真实环境中更有效地响应。 - 延长机器人运行时间：用轻量级的板载硬件加远程推理，替代高功耗的板载 AI 算力，可以大幅改善电池续航，让机器人在两次充电之间运行更久。 - 在 Physical AI Toolchain 中引入一项新能力：开发者现在可以用基于 Kubernetes 的工具链，把机器人 AI 工作负载容器化，并跨机器人、边缘基础设施和云端进行部署与编排，实现分布式推理。 随时可用的物理 AI——让机器人在制造、家庭和仓储场景中协助用户——在提升安全性、生产力和任务辅助方面潜力巨大。在许多意义上，面向物理世界的 AI 是 AI 的一大前沿方向。物理 AI 必须在开放、不可预测的环境中运行，要同时与其他机器人和人交互，还要适配多种不同的机器人本体（embodiment）。要实现这一愿景，需要在三个维度上取得进展：机器人硬件、具身 AI 模型，以及用于训练和推理的系统基础设施。