北大DeepSeek联合开源DSpark,高并发生成速度提升超60%
作者:技术拾光时间:2026-06-28 06:35:23浏览:559
北大与DeepSeek联合开源DSpark推理加速框架,解决大语言模型高并发推理效率难题。部署于V4-Flash和V4-Pro预览版后,相比MTP-1基线,同等吞吐量下单用户生成速度提升60%至85%。相关论文、代码及模型检查点已在GitHubDeepSpec项目开源。
全链网报道,6月27日,DeepSeek联合北京大学正式发布了DSpark推理加速框架。此次发布聚焦于大语言模型在真实生产场景中一个长期存在的棘手问题:推理效率。尤其是在高并发环境下,如何让模型能够快速、稳定地响应大量用户请求,这一核心难题始终是行业难以回避的挑战。
目前,该新框架已部署在DeepSeek-V4-Flash与DeepSeek-V4-Pro的预览版服务引擎中。具体数据显示,与此前生产环境采用的单token推测解码基线MTP-1相比,在保持同等吞吐量的前提下,DSpark框架可将单用户的生成速度提升60%至85%。这一提升并非小步前进,对于需要应对大规模并发的线上服务而言,如此性能优化意味着实实在在的成本节约与用户体验改善。

值得关注的是,该技术的相关论文、训练代码以及模型检查点已在GitHub平台的DeepSpec项目中开源。这意味着,不仅DeepSeek自身的服务能够从中受益,整个行业都可以在此基础上进行二次开发或研究,这无疑是真正的技术红利所在。
