NVIDIA Vera 专为 AI 代理设计,强调极致单线程性能
NVIDIA 推出新 CPU Vera,通过最大化单线程性能来加速 AI 代理的推理循环和工具调用。
传统数据中心 CPU 为了降低成本而堆叠核心数,但每个核心的速度会被拖慢。AI 代理需要快速依次完成任务,单线程性能决定了每个步骤的完成速度。NVIDIA Vera 是专为这种场景设计的 CPU,每个核心都能全速运行,不互相干扰。
正文摘录
AI 创新者拥抱 NVIDIA Vera — 为什么大规模单线程最强 CPU 如此重要 大规模单线程最强 CPU 是为智能体 AI 时代打造的全新 CPU 品类。 在智能体系统的创建和部署全过程中,CPU 始终处于推理、响应时间和学习的核心路径上。CPU 负责执行 AI 模型下达的任务:工具调用、代码执行、数据处理、KV-cache(键值缓存)以及结果分析。 对于 AI 工厂中的智能体而言,速度至关重要。 CPU 运行工具的速度越快,智能体完成当前任务的速度就越快。 对于 AI 工厂来说,GPU 的利用率是数据中心中最有价值的资源。因此,任何等待任务完成的时间都会限制 AI 工厂的收入——更糟糕的是,如果 GPU 等待 CPU 完成其任务,还会影响 GPU 利用率。AI 工厂需要一款具备最大单线程性能的 CPU,以最大化 AI 工厂的收益和智能体性能。 当今的数据中心 CPU 并非为大规模速度而设计。 虽然个人电脑和工作站拥有快速的 CPU,但数据中心 CPU 的发展方向已经远离了单线程性能。云计算的兴起推动 CPU 制造商制造更高核心数量的 CPU,同时以牺牲性能为代价来降低成本。 制造优化每可租用核心成本的 CPU,增加了每颗芯片的核心数量,却减少了使核心高速运行所需的硅面积——比如高性能内存架构和每个核更快的指令处理能力。转向小芯片架构进一步降低了成本,但带来了“小芯片税”:每个 CPU 核心不再能访问芯片的全部内存性能。 AI 智能体需要一款专为最大单线程性能而设计的大规模 CPU。 大规模单线程最强 CPU 能在系统满负载时保持每个智能体步骤的执行速度。每个核心都以全性能完成智能体任务,不受其他核心拖累。