获卡帕西、李飞飞、辛顿投资的芯片初创Etched签下10亿美元订单
Etched的Transformer专用芯片实现高能效推理，获顶级AI科学家投资并签下大单，证明了专用路线在推理市场的潜力。
这家只做Transformer专用芯片的公司完成了流片，并宣布今年夏天出货首批机柜。它设计了一种混合HBM/SRAM架构，让万亿参数级MoE在80%以上峰值FLOPs下运行，解决了延迟与吞吐量的取舍问题。团队来自英伟达、谷歌TPU等，已获1.2亿美元A轮融资。
正文摘录
卡帕西李飞飞辛顿都投了的 Transformer 专用芯片，签下 10 亿美元大单 一家只做 Transformer 专用芯片的创业公司成功流片，并官宣了一连串重大进展： 它创立于 2022 年。当其他 AI 芯片公司强调兼容、通用、生态时，Etched 从第一天起就专注于 Transformer 专用芯片。 公司官方推特称，基于现有进展，他们已经造出了第一批机柜，“早期客户测试表明，我们在推理工作负载上实现了 最先进 的吞吐量、延迟和能效”。 Etched 突然“复活”并公布了大动作。在此之前，Etched 留给外界的印象仅仅是“一家只为 Transformer 做 AI 芯片的初创公司”。 汇总目前信息：他们从芯片、机柜、软件到制造方法进行一体化设计，打造的是 一整套面向前沿模型推理的集群系统。 官网信息显示，今年早些时候，Etched 的 A0 版芯片已从台积电 N4P 工艺流片回片。 他们明确表示第一批机柜计划今年夏天出货。那么 Etched 的商业化节奏是否已完全公开？ 按照官方说法，其推理系统是为前沿模型准备的，覆盖 万亿参数级 MoE、长上下文和 Agent 工作负载。 随着浮点运算能力提升，AI 芯片会消耗更多电力并降低时钟频率，这通常导致持续推理吞吐量低于峰值浮点运算能力的一半。 针对这一问题，Etched 设计了一种 全新架构，使芯片的数学模块能在不到大多数 AI 芯片一半的电压下运行。 官方推特称，这套设计能让 万亿参数级稀疏 MoE 在 80% 以上峰值 FLOPs 下运行，同时不出现热降频。 要做到这一点，需要从晶体管到 token 统筹设计，包括可拆分数学阵列、电路技术、tiling 与调度算法、供电网络、VRM 架构、高级封装和冷板设计。 当前采用 HBM 的 AI 芯片受限于内存子系统和互连瓶颈，难以达到接近 SRAM 的解码速度；