行业新闻

Acrab 发布 Agent Box,可在本地运行千亿参数大模型

Acrab 发布 Agent Box,可在本地运行千亿参数大模型

Acrab 端侧 AI 平台强调 CPU 重回中心,用软硬协同解决 Agent 的持续任务需求,而非堆砌 NPU 峰值算力。

AI 正在从单次推理走向持续工作,这对端侧芯片提出了新要求:不仅要跑模型,还要支持长上下文、多任务和工具调用。新加坡公司 Acrab 发布 Agent Box 和 GΞLIX 1 芯片,通过统一内存(让 CPU、NPU 共享数据)大缓存和 CPU-NPU 协同设计,减少数据搬运,提升 Prefill(预填充,处理新增信息)效率,让千亿模型在本地长期稳定运行。

正文摘录

![](https://aiera.com.cn/wp-content/uploads/2026/07/aieraimga0d1f3fe93.jpg) 新智元报道 ![](https://aiera.com.cn/wp-content/uploads/2026/07/aieraimg3b253ef414-208.png) Agentic AI,应该运行在什么样的计算底座上? 几天过去,WAIC 2026 上最拥挤的概念之一——Agent Computer——开始从展台上的新鲜感,变成一道真正的工程题。 让一台设备在本地跑起大模型,已经不算最难的部分。更难的是,当 Agent 要持续读取文件、保留记忆、调用工具,并在后台长期运行时,芯片能否在功耗、延迟和成本的约束下保持稳定。 这会改写端侧芯片的评价方式。TOPS、模型参数和每秒 Token 仍然重要,但如果内存带宽跟不上、CPU 与 NPU 协同不顺、软件栈无法维持任务状态,再漂亮的峰值也可能只够完成一次 Demo。 我们注意到,本周,新加坡公司 Acrab 举行了一场线上发布会,并发布了 Agent Box,这也许给出了一个可供拆解的样本。 在这场发布会里,这家 AI Infra 公司把 Prefill、统一内存、CPU-NPU 异构协同和 Agent 编排同时摆上了台面。 这些关键词指向同一个判断: 端侧 AI 正在从 「运行一个模型」,走向 「长期运行一套智能系统」。 芯片要解决的,也不再只是算力够不够,而是数据如何流动、任务如何调度、软硬件如何持续协同。 所以,当 WAIC 的热闹和新品发布、行业趋势逐渐沉淀下来,真正值得追问的问题反而更清楚了:当 Agent 从一次调用变成持续工作之后,端侧芯片究竟要重做什么?

阅读原文(aiera.com.cn)→

行业新闻新智元2026-07-25原文

相关内容