Volantis 完成 8800 万美元 A 轮,用光学破解 AI 内存瓶颈,让超大模型推理快到 1 万 tps/用户
RT @semiDL:很高兴宣布 Volantis 完成 8800 万美元 A 轮融资。
我们用光学来解决 AI 的内存瓶颈,让芯片拥有海量、快速且廉价的内存。
通过把单芯片的内存带宽和容量提升数个数量级,我们为超大模型(>10T)带来了超高速推理(每用户最高 10,000 tps)——而且每 token 成本还很低。
在初期,这将催生快得离谱的 agent——比如几分钟甚至几秒就能完成任务的编程 agent,而不是花上几个小时。
更令人兴奋的是,光学是一种从根本上可扩展的内存系统扩容方式。不是每年 2 倍,而是每一代都提升数个数量级。这将催生一个结构上全新的 AI 产业,包括重启 scaling law、把整个代码仓库放进上下文窗口等等。
我们的团队开创了多项核心半导体技术:首个 CoWoS 产品、早期 HBM、首个硅光 CPO 系统、首个大批量可调谐 VCSEL、首批直接用光通信的处理器等等。
我们已经把数据传得比芯片封装内同样纤细的电线远 10 倍以上。我们的下一代产品已经流片完成,目标是在相关距离上实现世界纪录级的带宽密度,了解更多:https://t.co/ljYTimdcbJ
我们用光学来解决 AI 的内存瓶颈,让芯片拥有海量、快速且廉价的内存。
通过把单芯片的内存带宽和容量提升数个数量级,我们为超大模型(>10T)带来了超高速推理(每用户最高 10,000 tps)——而且每 token 成本还很低。
在初期,这将催生快得离谱的 agent——比如几分钟甚至几秒就能完成任务的编程 agent,而不是花上几个小时。
更令人兴奋的是,光学是一种从根本上可扩展的内存系统扩容方式。不是每年 2 倍,而是每一代都提升数个数量级。这将催生一个结构上全新的 AI 产业,包括重启 scaling law、把整个代码仓库放进上下文窗口等等。
我们的团队开创了多项核心半导体技术:首个 CoWoS 产品、早期 HBM、首个硅光 CPO 系统、首个大批量可调谐 VCSEL、首批直接用光通信的处理器等等。
我们已经把数据传得比芯片封装内同样纤细的电线远 10 倍以上。我们的下一代产品已经流片完成,目标是在相关距离上实现世界纪录级的带宽密度,了解更多:https://t.co/ljYTimdcbJ