- 发布日期
DeepSeeK 突然发布 DSpark，让 AI 的回答不再「挤牙膏」
- 作者
- 姓名
- 荷鲁斯快报
- 社交账号
DeepSeek联合北京大学团队今日发布DSpark推理加速框架，声称能将大模型生成速度提升近一倍。该技术已应用于DeepSeek-V4-Flash和DeepSeek-V4-Pro的预览版，替代了原有的MTP-1方案。在真实用户流量中，DSpark使单用户生成速度提升57%至85%，显著缓解了AI回复“挤牙膏”的问题。
长期以来，大模型生成文本采用自回归方式，每生成一个token都需要一次前向计算，导致输出越长延迟越高。推测解码通过先用轻量级草稿模型生成候选token，再用目标模型并行验证来加速。但现有方案各有局限：自回归草稿模型生成候选时仍需逐步计算；并行草稿模型虽快，却因缺乏顺序依赖导致候选质量下降，尤其在后半段token被接受率骤降，即所谓“后缀衰减”。此外，线上服务中验证长序列候选会占据批处理容量，在负载高时得不偿失。
DSpark在生成侧采用半自回归架构，保留并行草稿模型的速度，同时加入轻量级顺序模块（默认Markov头）来建模相邻token关系，提升候选连贯性。验证侧引入基于置信度调度的验证，为每个候选位置预测被接受概率，并由硬件感知前缀调度器根据系统负载、置信度和吞吐曲线动态决定验证长度：资源宽松时验证更多token，负载升高时缩短低置信度请求的验证，从而优化资源利用。
离线实验在Qwen3-4B、Qwen3-8B、Qwen3-14B和Gemma4-12B四个模型上进行，对比Eagle3（自回归草稿模型）和DFlash（并行草稿模型）。结果显示，在Qwen3系列上，DSpark的宏平均接受长度比Eagle3提升26.7%至30.9%，比DFlash提升16.3%至18.3%。在数学、代码和聊天三种任务中，接受长度差异显著：数学任务平均5.57，代码5.12，聊天仅3.49，说明结构化任务更适合推测解码。
该技术的核心贡献在于将推测解码从静态长度验证转向动态调度，使其更适应真实生产环境的负载变化。DeepSeek表示，DSpark已在线上稳定运行，未来将探索更多应用场景。随着大模型部署日益广泛，推理效率的改善直接降低运营成本并提升用户体验。研究团队指出，DSpark表明大模型推理优化正从算法创新走向系统工程整合。
展望未来，推测解码可能成为所有大规模语言模型服务的标配。DSpark的半自回归架构和置信度调度框架为后续研究提供了新方向，例如结合强化学习优化调度策略，或针对特定任务定制草稿模型。同时，硬件协同设计也可进一步挖掘加速潜力，使AI交互达到即时响应水平。
