LongLive 2.0推理速度提升18.6%,生成64秒视频仅需30.6秒
🚀 LongLive 2.0 更快了!自上周发布以来,我们进一步优化了NVFP4推理路径,整体吞吐量提升了18.6%。🔥现在,生成一段64秒的视频端到端仅需30.6秒,包括VAE解码。⚡⚡超过2倍实时生成。🛠️ 底层改动:• 融合Triton RoPE/adaLN内核 • 减少KV-cache同步开销 • 原地量化KV-cache更新 • 更快的FP4 KV反量化 • 固定VAE传输 • 更安全的量化前LoRA设置。🎬 LongLive 2.0是我们开源的4比特长视频生成基础设施,支持训练和推理。🚀我们持续推动长视频生成向更快、更轻量、更实用部署发展。🔗 代码:https://t.co/QXF2lfnNzL #长视频生成 #视频生成 #实时 #AI基础设施 #高效AI #FP4 #并行 #NVIDIA