NVIDIA发布Qwen3，引入动态内存稀疏化，通过KV缓存压缩提升推理效率

NVIDIA 刚刚在 Hugging Face 上发布了带有动态内存稀疏化的 Qwen3

8 倍 KV 缓存压缩实现了推理时的超大规模扩展，在减少内存占用的同时提升推理准确性。