首页
产品服务
模型广场
Token工厂
算力市场算力商情行业资讯解决方案有偿资讯商城
注册

DeepSeek发DSpark,大模型速度最高翻4倍

发布日期:2026-06-28 来源:新浪财经作者:新浪财经浏览:18

核心定位:给大模型装上“无损加速器”

DSpark并非一款全新的大语言模型,而是一套专注于优化AI响应速度、降低算力消耗的底层推理框架。它基于“推测解码(Speculative Decoding)”路线,专门针对传统大模型逐Token自回归生成时存在的“响应迟缓”与“GPU算力严重空转”等行业痛点进行重构。该框架由DeepSeek团队与北京大学联合研发,公司创始人梁文锋参与了相关论文的署名,并在DeepSeek完成新一轮融资后作为首个重要开源成果发布。

技术突破:告别无效计算的三大引擎

为了解决过去推测解码方案中“草稿生成质量差”与“固定验证长度浪费算力”的缺陷,DSpark引入了三项核心机制:

  • 半自回归生成架构:草稿模型采用“并行主干块+轻量串行序列块”的双层设计。并行块负责一次性批量产出多候选Token,而串行块则专门补充词与词之间的时序依赖关系,大幅提升了草稿的准确率与通过率。
  • 置信度动态调度验证:系统内置置信度头,能够实时预测每个候选Token被主模型接受的概率。结合服务器实时负载,系统会自适应调整验证长度——高置信度内容直接批量放行,低置信度片段则提前截断或缩短并行长度,从而精准拦截无效计算。
  • 硬件感知前缀调度器:调度器能够实时读取GPU显存与并发负载状态,动态分配计算资源,使验证过程更贴合底层硬件特性,最大化利用硬件性能并缓解高并发下的性能衰减。

实测表现与广泛兼容

DSpark的优化效果不仅停留在论文层面,目前已直接部署于DeepSeek-V4-Flash与DeepSeek-V4-Pro的预览版服务引擎中,替换了原有的MTP-1基线方案。在同等系统总吞吐量下,其性能表现如下:

  • 速度飞跃:DeepSeek-V4-Flash的单用户生成速度提升了60%至85%,V4-Pro版本提升了57%至78%。
  • 吞吐暴增:相比旧基线,整体推理吞吐提升幅度在51%至400%之间,极端高并发场景下最高可实现四倍的效率增长。
  • 多模型适配:该框架并未封闭在DeepSeek生态内,其优化逻辑已成功迁移并适配通义千问(Qwen)、Gemma、Llama、GLM等主流开源大模型,为各类开发团队提供了通用的提速方案。

整个提速过程完全无损模型的输出质量,不会改变大模型原始的生成分布,这意味着企业在享受速度红利的同时无需担心回答准确率的下降。

开源生态与行业风向

为了进一步降低开发者优化大模型的门槛,DeepSeek在GitHub上以MIT协议全面开源了全栈训练库DeepSpec。该仓库不仅包含DSpark的完整实现,还整合了DFlash、Eagle3等其他推测解码方案,全面开放了草稿模型训练代码、评估脚本及预训练权重,支持开发者进行二次改造与商用定制。

DSpark的发布折射出AI产业风向的实质性转变:随着基础模型能力差距的缩小,竞争核心正全面转向推理效率与商用落地成本。通过纯算法优化在不增加额外GPU采购的前提下大幅提升并发承载能力,DSpark为预算有限的中小开发者与AI初创团队提供了极具实用价值的解决方案,有力推动了大模型应用从“能用”向“好用、用得起”迈进。

本文转载自新浪财经, 作者:新浪财经, 原文标题:《 DeepSeek发DSpark,大模型速度最高翻4倍 》, 原文链接: https://cj.sina.cn/articles/view/7879848900/1d5acf3c4068030gmc。 本平台仅做分享和推荐,不涉及任何商业用途。文章版权归原作者所有。如涉及作品内容、版权和其它问题,请与我们联系,我们将在第一时间删除内容!
本文相关推荐
暂无相关推荐
点击立即订阅