陈天奇发布免费新书《面向ML系统的现代GPU编程》
陈天奇新书从零讲解现代GPU编程,用实战案例帮你突破大模型性能瓶颈。
陈天奇(TVM/XGBoost/MLC-LLM作者)发布免费在线书,聚焦如何为英伟达Blackwell架构编写高性能GPU kernel(运行在GPU上的核心计算函数),以矩阵乘法(GEMM)和FlashAttention为贯穿案例,手把手带你掌握大模型训练推理中最高效的部分。
正文摘录
.426.jpg) 编辑|Panda 前些天,CMU 助理教授、TVM / XGBoost / MLC-LLM 的创造者陈天奇发布了一本免费在线书籍《Modern GPU Programming For MLSys(面向机器学习系统的现代 GPU 编程)》。  这本书脱胎于他在 CMU 开设的「机器学习系统」(Machine Learning Systems)课程系列中新增的 GPU 编程专题课,内容聚焦当前大模型训练和推理中最核心、也最难啃的部分——高性能 GPU kernel 的编写方法,主线围绕 Blackwell 架构展开,并以矩阵乘法(GEMM)和 FlashAttention 作为贯穿全书的实战案例。