北邮北大清华等联合推出端边云统一推理运行时 PhyAI
PhyAI 是面向物理 AI 的统一推理运行时，一套代码覆盖端边云部署，显著提升推理效率，并提出了衡量控制瓶颈的 Control-Time Roofline。
具身智能（让机器人感知并操作物理世界的 AI）模型部署在端侧、边缘和云端时，通常需要维护多套代码。PhyAI 用一套代码统一这些场景，支持从单卡到多卡，并将云端强化学习推理提速 2.55 倍，端侧时延最多降低 2.3 倍。
正文摘录
.jpg)  Physical AI 模型的部署边界不止于原型验证，还包括离线评测、云端强化学习 Rollout、端侧实时控制，也可能以工厂 MaaS 的形式，由本地边缘服务器或者云端服务器为多台机器人提供服务。这些场景对延迟、吞吐和多卡通信的要求不同，现有工作通常会针对不同需求编写多套代码，存在迁移成本高、工程开发重复工作多、不同场景推理效率参差不齐等问题。 论文提出 PhyAI，一个面向 Physical AI 的统一推理运行时。它把模型语义放在 Model Adapter 中，把调度、缓存、算子、图执行和并行交给运行时。本文围绕四类部署场景展开，并将 Control-Time Roofline 作为连接推理性能与控制周期的主要分析工具。 这项工作由北京邮电大学牵头，北京大学、清华大学、南京大学、明体科技和面壁智能共同完成。