动态

NVIDIA与llama.cpp合作加入DFlash支持,推理速度翻倍

Victor M
RT @NVIDIARTXSpark: 本地AI变得更快了。⚡️

我们与@ggerganov合作,在llama.cpp中添加了DFlash支持,实现了约2倍更快的推理速度。
动态Victor M2026-07-09原文

相关内容