HF发布AI内核,聚焦硬件优化
在编写代码构建网站和应用程序变得微不足道的世界里(感谢Lovable、Cursor、Claude...),你和你的公司真正的差异化(以及让你成功的关键)将是你如何自己训练、运行和优化AI模型。这就是为什么在Hugging Face,我们加倍努力让更多人成为AI构建者,而不是AI用户。本周我们在Hugging Face Hub上发布Kernels。这种仓库类型面向你们中的硬核AI工程师。Kernels是优化的二进制操作集合,硬件提供商支持是第一类公民:CUDA、ROCm、Apple Silicon、Intel XPU。未来几天,你会在Hugging Face上看到更多这种仓库类型。这里展示的是来自@sgl_project团队的Flash Attention内核❤️