DeepSeek 开源 FlashMLA 高效解码内核
🚀 #OpenSourceWeek 第一天：FlashMLA
很荣幸分享 FlashMLA——我们为 Hopper GPU 开发的高效 MLA 解码内核，针对变长序列优化，现已投入生产。
✅ BF16 支持
✅ 分页 KV 缓存（块大小 64）
⚡ H800 上内存带宽达 3000 GB/s，计算性能达 580 TFLOPS
🔗 GitHub 探索：https://t.co/4JvJTn5HX2
很荣幸分享 FlashMLA——我们为 Hopper GPU 开发的高效 MLA 解码内核，针对变长序列优化，现已投入生产。
✅ BF16 支持
✅ 分页 KV 缓存（块大小 64）
⚡ H800 上内存带宽达 3000 GB/s，计算性能达 580 TFLOPS
🔗 GitHub 探索：https://t.co/4JvJTn5HX2