DFlash 2发布,在MacBook Pro上高速推理,速度提升4.6倍

转推 @zhijianliu_: DFlash 2 来了!Qwen3.8-27B 在 M5 Max MacBook Pro 上达到 70 tok/s。

⚡ 速度高达自回归解码的 4.6 倍,输出相同。

这是 DFlash 的下一代,由 Z Lab 孵化并在 Inco AI 升级。每次解码多接受一个 token,完全免费!

https://t.co/We0lwYPSBl