DeepSeek 发布 DSpark 加速推理，吞吐提升达 400%
DeepSeek 开源推理加速框架 DSpark，可在多种开源模型上实现最高 4 倍吞吐提升，显著降低推理延迟。
DeepSeek 开源 DSpark，一种基于半自回归生成和置信度调度的推测解码加速方法。它用草稿模型预预测多个 token，再交由大模型验证，同时通过置信度打分器剪掉低质量预测，避免无效计算。在 DeepSeek V4 系列上吞吐提升 51%-400%，且能直接用于 Qwen、Gemma 等开源模型。
正文摘录
DeepSeek 发布 DSpark 热度：322584 微博讨论摘录 1. 科技阿星：DeepSeek发布DSpark 6月27日直接甩出DSpark，这次给V4 Flash和V4 Pro搞了个加速器，说白了就是用半自回归加置信度调度的推测解码方法，听着复杂但效果超实在——处理速度直接快了51%到400%！比如之前要等10秒的结果，现在可能5秒就出来了，这效率提高了很多。更牛的是，在Qwen，Gemma这些咱们常用的开源模型上也能用，迁移效果还特好，相当于给很多模型都加了个快进键！     2. 皮皮聊科技：DeepSeek发布DSpark DeepSeek 昨天悄悄开源了一个 DSpark。简单一点就是，给一些大模型提速用。