RedHat发布针对Hopper的FP8-Block量化Kimi K3，支持vLLM

转推 @RedHat_AI: 在Hopper上运行Kimi K3？我们发布了一个针对它调优的FP8-Block量化检查点。FP8是Hopper张量核心的原生格式，因此您可以获得H100/H200设计的吞吐量。Day Zero支持与@vllm_project一起准备就绪。权重 - 立即尝试：https://t.co/1aDUBOmbBf