AI编程Agent 10小时搭出类CUDA软件，瞄准英伟达推理市场
AI编程Agent 10小时生成芯片底层软件，但英伟达CUDA的验证生态仍是护城河，胜负取决于迭代速度。
一家成立一年的公司，用AI编程Agent（能自动编写代码的AI）在10小时内为AI推理芯片（运行已训练模型、响应用户请求的芯片）搭建出类CUDA软件，省去大量手写底层代码。但专家指出，CUDA的护城河在于20年积累的验证工具链与开发者生态，短期难被撼动。
正文摘录
老黄垒 20 年的 CUDA 护城河，AI 刚刚用 10 小时凿开了 一家成立仅一年的小公司，用 AI 编程 Agent，只花 10 小时，就搭出了一套「类 CUDA 软件」。 他们已经开源了一套名为 TileKernels 的 GPU 算子库，用 TileLang 来编写，省去了大量手写底层 CUDA 代码的工作。 每隔一段时间，CUDA 都要被拎出来鞭打一番，动辄替代了、击穿了、护城河又被颠覆了… H100、Blackwell、Rubin，靠着一代代性能更强的芯片，英伟达吃下了这一轮 AI 浪潮的最大红利。 芯片可以买，参数可以追，制程也会迭代。真正让客户用了英伟达之后很难再换走的，是围绕 GPU 建立起来的整套软件生态。 CUDA 全称 Compute Unified Device Architecture，由英伟达高管 Ian Buck 带队，花了近 20 年打造。 它常被叫作编程语言，但更准确地说，CUDA 是一整套围绕英伟达 GPU 建立的软件平台。 如果简单拆成三层，最底下是内核层，直接让芯片干活的 Kernel、编译器和运行时。 中间是库层——cuBLAS、cuDNN 等经过高度优化的计算库，以及调试、验证和性能分析工具。 最上面，则是 PyTorch、TensorFlow 等开发框架，企业积累的海量代码和工作流，以及围绕 CUDA 成长起来的开发者生态。 CUDA 最底层负责告诉机器每一步怎么干，中间层提供现成的生产工具，最上层则是一整套已经运转多年的生产体系。 Nixon 是 AI 软件初创公司 Infinity 的创始人，此前也在 Google Brain 当研究员。 他的团队开发了一套名为 Ignition 的 AI 研究 Agent，专门给不同 AI 芯片编写底层软件。