NVIDIA称每瓦性能是AI基础设施核心指标 新款Blackwell平台能效显著提升
NVIDIA指出AI工厂的盈利能力取决于固定电力预算下的Token产出,其Blackwell平台通过全栈协同设计实现每瓦性能数倍跃升,是规模化扩展的核心。
AI工厂的利润受限于电力预算,每瓦性能(performance per watt)成为不可作弊的关键指标。NVIDIA新一代Blackwell NVL72平台通过系统级协同设计,在MoE(混合专家模型)推理上实现比前代Hopper最高25倍的每瓦性能提升,直接降低Token成本并提高营收。
正文摘录
为什么性能功耗比是 AI 基础设施效率的终极指标 电力是 AI 基础设施不可回避的约束。一个 AI 工厂在固定电力预算内能生成多少 [token](https://blogs.nvidia.com/blog/ai-tokens-explained/)(AI 模型处理的最小文本单元),决定了其收入和盈利能力。正因如此,性能功耗比——这个无法被操纵、只能通过实际成果赢得的指标——是 AI 工厂的基石。 随着 Agentic AI(智能体 AI)推动 token 需求不断攀升,组织今天做出的基础设施决策,将决定在一个电力受限的世界里,谁能扩展规模、谁会被淘汰。 目前几乎每个前沿 AI 模型都运行在 [混合专家](https://blogs.nvidia.com/blog/mixture-of-experts-frontier-models/) (MoE) 架构上。在机架规模上服务 MoE,需要在系统和软件栈的每一层进行协同设计,再加上从实际生产负载下运行这些模型所获得的运行深度。借助 [NVIDIA Blackwell NVL72 平台](https://www.nvidia.com/en-us/data-center/technologies/blackwell-architecture/),这个机架级基础已经建成并得到验证,提供了最高的性能功耗比以最大化收入,以及最低的 token 成本以最大化利润率。正是这一基础,让 [NVIDIA Vera Rubin](https://www.nvidia.com/en-us/data-center/technologies/rubin/) 平台得以在此基础上进一步推动机架级能效的提升。 为前沿 AI 最大化性能功耗比 每一代新的前沿模型都会带来架构变革,解锁更强的智能能力,同时也需要新的优化以实现高效规模化运行。