智算多多
官方邮箱:service@zsdodo.com

公司地址:北京市丰台区南四环西路188号总部基地三区国联股份数字经济总部


京公网安备11010602202532号 DSpark并非一款全新的大语言模型,而是一套专注于优化AI响应速度、降低算力消耗的底层推理框架。它基于“推测解码(Speculative Decoding)”路线,专门针对传统大模型逐Token自回归生成时存在的“响应迟缓”与“GPU算力严重空转”等行业痛点进行重构。该框架由DeepSeek团队与北京大学联合研发,公司创始人梁文锋参与了相关论文的署名,并在DeepSeek完成新一轮融资后作为首个重要开源成果发布。
为了解决过去推测解码方案中“草稿生成质量差”与“固定验证长度浪费算力”的缺陷,DSpark引入了三项核心机制:
DSpark的优化效果不仅停留在论文层面,目前已直接部署于DeepSeek-V4-Flash与DeepSeek-V4-Pro的预览版服务引擎中,替换了原有的MTP-1基线方案。在同等系统总吞吐量下,其性能表现如下:
整个提速过程完全无损模型的输出质量,不会改变大模型原始的生成分布,这意味着企业在享受速度红利的同时无需担心回答准确率的下降。
为了进一步降低开发者优化大模型的门槛,DeepSeek在GitHub上以MIT协议全面开源了全栈训练库DeepSpec。该仓库不仅包含DSpark的完整实现,还整合了DFlash、Eagle3等其他推测解码方案,全面开放了草稿模型训练代码、评估脚本及预训练权重,支持开发者进行二次改造与商用定制。
DSpark的发布折射出AI产业风向的实质性转变:随着基础模型能力差距的缩小,竞争核心正全面转向推理效率与商用落地成本。通过纯算法优化在不增加额外GPU采购的前提下大幅提升并发承载能力,DSpark为预算有限的中小开发者与AI初创团队提供了极具实用价值的解决方案,有力推动了大模型应用从“能用”向“好用、用得起”迈进。
