英伟达RTX Spark亮相BW,CPU GPU合一本地跑120B模型
RTX Spark通过芯片级融合,让个人电脑本地跑大模型成为现实,兼顾性能与隐私。
英伟达在Bilibili World上展示RTX Spark芯片,将Blackwell GPU与Grace CPU通过NVLink-C2C融合,提供128GB统一内存和1 Petaflop算力,使笔记本能本地运行120B参数大模型,还支持智能体安全常驻。
正文摘录
- title: 老黄 RTX Spark 真机现身 Bilibili World !CPU 和 GPU 直接焊在一起,笔记本跑 120B 大模型 - sourcecompany: 量子位 - bodymarkdown: 就在这届 Bilibili World 上,英伟达首次面向大众玩家展示了 搭载 RTX Spark 超级芯片的笔记本电脑 。 这款芯片 专为个人智能体打造 ,不仅搭载了 Blackwell RTX GPU,连 CPU 也是出自英伟达的 Grace CPU。 两颗超强芯片,加上高速互联和 128GB 统一内存, 不管是拿来打游戏还是搞 AI 创作,都十分丝滑 。 RTX Spark 的核心是英伟达的 Blackwell GPU,加上一颗英伟达与联发科合作研发的 20 核 Grace CPU。 这两颗芯片没有走传统的 PCI-e 通信,而是靠 NVLink-C2C 技术直接互联,相当于把 GPU 和 CPU 焊在了一起。 RTX Spark 的 算力堆到了 1 Petaflop,内存给到了 128GB ,而且是统一内存,GPU 和 CPU 能共用同一块内存,数据不用在两颗芯片之间来回搬运。 先说 Agent 的大脑,也就是大模型这块,RTX Spark 能 在本地跑起参数量 120B 的大模型,上下文长度可以拉到 100 万 token 。 这意味着用户不用把长文档、长对话历史切碎了分批喂给模型,一次性全部塞进去就行,模型也不会中途忘记前面说过什么。 再来是像 OpenClaw、Hermes 这样的智能体本身,它们一直都在面对一个问题,那就是用户日常使用的电脑,没办法安全、私密地把智能体跑起来。