动态

Kimi K3支持NVFP4量化,在Blackwell上加速推理,质量略降。

AK
转推 @RedHat_AI: Kimi K3 现在支持 NVFP4,这是我们的 FP8-Block 检查点在 Blackwell 上的对应版本。MoE 层被量化为 4 位,以加速 Blackwell 上的推理。质量保持,GPQA 从 93.5 到 91.0。https://t.co/hAaMlUV7tc
动态AK2026-07-31原文

相关内容