英伟达GB300在AA-AgentPerf每兆瓦并发智能体达6万,为H200二十倍
新基准AA-AgentPerf以每兆瓦并发智能体数衡量AI智能体推理效率,英伟达GB300达到6万,较前代提升20倍。
AI智能体把长任务拆成多步调用,跑起来像接力赛,传统基准测不准。新基准AA-AgentPerf用真实轨迹,锁死响应速度,再测每兆瓦能扛多少智能体。GB300 NVL72达到61400个,比H200高20倍,是系统级优化结果。
正文摘录
 新智元报道  【新智元导读】 跑分跑了这么多年,新基准偏说 FLOPS 量不动智能体了,英伟达 GB300 一上来,就把上代甩开 20 倍。 同样一兆瓦电,英伟达最新的 GB300 NVL72 能同时扛住 61400 个智能体,上一代 H200 只扛得住大约 2600 个。 这中间,差了整整 20 倍。  英伟达公布的 AA-AgentPerf 成绩:在每秒 20 与 60 个 token 两档服务标准下,GB300 NVL72 每兆瓦的并发智能体数,都约为 H200 的 20 倍。 6 月 12 日,英伟达刚放出这组数字的时候,外界第一反应是又一次性能炫技。 但真正变了的,并非这代芯片有多猛,而是丈量算力的那把尺子。 它就是 独立评测机构 Artificial Analysis 发布的新基准:AA-AgentPerf。 Artificial Analysis 在官方博客中将它称为业界第一个专门为 「AI 智能体(AI agent)」 设计的推理基准。  它的主指标也和以往不同:并非每秒多少 token,而是 「每兆瓦并发智能体数(Agents per Megawatt)」。