平头哥扩大 T-Head SAIL 开源范围,加速真武 AI 芯片软件生态
平头哥把真武芯片的软件栈 SAIL 进一步开源,让客户能自己迁移、改代码、调性能——芯片卖出去之后,生态能不能留住开发者才是关键。
平头哥在发布真武 AI 芯片后,公布了 AI 软件栈 T-Head SAIL 的最新开源进展,扩大框架适配、加速库、工具链和通信库的开放范围。这套对标 CUDA 的软件栈负责把 PyTorch 等上层框架接到真武硬件上,已服务 20 多个行业的 650 多家客户。
正文摘录
这款最强 AI 芯片的出鞘,将平头哥的算力「硬实力」推到了聚光灯下。但对于考虑换用真武的客户,还有另一件事要确认:过去写下的代码、积累的工具和开发经验,能不能一起带过来? 一天后的 9 月 23 日,平头哥公布了 AI 软件栈 T-Head SAIL 的最新开源进展,进一步扩大框架适配、加速库、工具链和通信库等领域的开放范围。 在平头哥的比喻里,AI 芯片是发动机,软件栈则相当于“变速箱+传动系统+驾驶系统”。 据悉,真武 AI 芯片已服务 20 多个行业的 650 多家客户,蚂蚁、小红书、小鹏汽车等头部企业已经开始使用 T-Head SAIL。 其中,小红书还基于 T-Head SAIL 开源代码,开发了模型迁移与算子优化 Agent,用来加速生成式推荐模型在真武上的部署。 可以说,平头哥提供基础软件能力,客户则把自己的业务经验写进工具,继续做迁移和优化,芯片背后的生态软实力,也在这样的参与中逐渐积累。 简单说来,T-Head SAIL 可以理解为阿里平头哥围绕真武 AI 芯片打造的一套类“CUDA”软件栈。 它连接 PyTorch 等上层 AI 框架和底层真武硬件,负责模型迁移、编译执行、计算加速和开发调试。 今年 7 月 WAIC 上,平头哥宣布启动 T-Head SAIL 开源,并向开发者提供 SDK、驱动、性能分析与调试工具,以及相关技术文档的下载。 两个多月后的云栖大会,团队公布了进一步的开源进展。已开源项目包括 PyTorch-for-sail 框架适配、sailify 源码迁移工具、Triton-for-sail 算子开发工具,以及 DeepGEMM-for-sail、FlashAttention-for-sail 等计算加速项目。