深圳深智城集团助力国产算力新飞跃:万亿级AI大模型训练获突破性进展

万亿级AI大模型训练获突破性进展

  近日，深圳市智城算网科技有限公司（隶属深智城集团）携手多家高校及科研机构，成功完成1.6万亿参数大模型DeepSeek-V4-Pro的全参数后训练。这一突破标志着国产AI算力从模型推理部署迈向全参数深度训练的新阶段，为国内人工智能产业链自主化发展注入强劲动力。

  万亿级参数大模型作为人工智能领域的前沿技术，在逻辑推理、数理计算、代码生成等复杂任务中表现卓越。然而，其全参数训练对硬件算力、集群稳定性及算法优化提出极高要求。长期以来，全球范围内此类训练主要依赖海外高端算力设备，国产算力因技术瓶颈多用于模型推理或小幅微调，全参数深度训练能力成为制约行业发展的关键难题。

混合专家架构带来全新挑战

  DeepSeek-V4-Pro采用混合专家模型（MoE）架构，其训练过程犹如指挥一支由数千名“专家”组成的庞大团队。日常任务中仅需激活少数专家，但后训练阶段需协调全部专家协同工作，沟通量激增数十倍。动态注意力机制的引入更对芯片算力调度和显存管理提出严苛挑战，相当于在单行道基础上构建复杂立交桥，计算与通信需求呈指数级增长。

系统性创新实现技术突破

  面对技术极限，深智城算力平台通过系统性创新实现突破：构建前置预警与精细化运维体系，确保1500余步训练零中断；优化网络架构与通信协议，使算力利用率（MFU）提升超30%；开发验证超100个基础算子，充分释放国产芯片硬件加速潜能。同时，创新供电架构与能效管理方案，在保障高算效的同时降低能耗，并建立覆盖全流程的问题定位机制，为训练稳定性提供多重保障。

推动国产算力生态建设

  此次突破不仅验证了国产算力集群承载超大参数模型训练的技术可行性，更为行业带来显著效益：通过降低对海外算力依赖，可有效控制AI应用成本；自主化技术路径有助于提升产业链安全水平；优化后的训练框架为后续研发提供可复制经验，加速人工智能技术在智慧城市、工业制造等领域的落地应用。

  深智城集团表示，将持续深化国产算力集群研发运营能力，通过构建更高效的算力基础设施底座，为深圳打造人工智能先锋城市提供核心支撑。此次实践表明，国产算力已具备突破关键技术封锁、服务国家战略需求的硬实力，为全球AI技术发展贡献中国方案。