热门产品

Nemotron 3 Ultra by NVIDIA

Nemotron 3 Ultra by NVIDIA

NVIDIA 推出的 Nemotron 3 Ultra 是一款专为长时间运行智能体设计的 550B MoE 模型,推理速度提升 5 倍,成本降低 30%,适用于复杂编码和深度研究。

热门评论

PH 用户
NVIDIA 刚发布了 Nemotron 3 Ultra,一个 550B 的开源前沿模型,专为长时间运行的 AI 智能体打造。

大多数前沿推理模型都针对单轮准确率做了优化。但智能体任务不同:智能体会规划、调用工具、委派给子智能体、处理失败、并在多轮对话中把历史信息传回模型。随着会话变长,token 成本叠加,模型也开始丢失上下文。

Nemotron 3 Ultra 通过混合 Mamba-Transformer 架构解决了这个问题,能在长上下文序列中保持召回能力;同时采用 NVFP4 量化,在 Blackwell 上相比 BF16 每 GPU 吞吐量提升了 5 倍。

发布内容如下:总参数量 550B,通过 LatentMoE 激活 55B 活跃参数——这样你获得前沿推理能力,但不必每生成一个 token 都激活整个模型;原生支持高达 1M token 的上下文窗口,能处理大型代码库、长工具调用链和多文档合成;多 token 预测层缩短了长输出和多轮工作流的生成时间;针对 OpenClaw、Hermes Agent 和 LangChain Deep Agents 进行了后训练,在智能体测试集(而非单纯聊天基准)上表现准确;采用多教师同策略蒸馏,从 10 多个领域特定教师模型(覆盖代码、数学和工具使用)获取密集反馈进行训练;全部开放权重、合成训练数据及后训练配方,采用 OpenMDW-1.1 许可发布。

P.S. 我追踪科技、SaaS 和 AI 领域的最新重磅发布,关注获取通知 → @rohanrecommends
PH 用户
550B 参数(55B 活跃)、1M 上下文、300 tok/秒。应该是目前美国最强的开源权重模型了——而且目前在 @Kilo Code 上免费可用。

哎哟,挺狠的。
PH 用户
重磅发布。我感兴趣的不是“更大的上下文窗口”这个噱头,而是它对实际智能体运行的意义——智能体大部分工作在于规划、工具调用、回溯以及跨时间保持状态。

我很好奇你们看到人们是如何将 Nemotron 3 Ultra 与检索或外部记忆结合使用的。在 1M 上下文窗口下,这一层是否变得不那么重要了?或者只是把决策点转移到了“哪些该留在记忆里,哪些直接传入运行”上?
PH 用户
很多前沿模型在原始推理能力上不断提升,但上下文管理仍然是个独立的瓶颈。

你们观察到的结果是,长周期智能体工作负载更多受益于模型本身的改进,还是受益于更好的检索和记忆外围层?
热门产品Rohan Chaubey2026-06-05原文

相关内容