海光首发Agent to Token架构，AI算力终于开始“组织化”了

从“算力”到“词元”，建得多、用得少？

　　在AI生产关系中，算力是基础，词元是结果。词元数量直接决定算力需求总量。也就是说，输入词元和输出词元越多，所需的算力越大，且算力消耗往往随词元数量呈非线性增长。

　　近年来，随着AI从大模型到智能体应用持续演进，词元经济迎来爆发期，算力新基建进入大步快跑时代。数据显示，2026年3月，中国智能算力总规模达1882 EFLOPS，在用算力中心标准机架突破1445万架。仅去年一季度，相关项目总投资就超过4300亿元。

　　但另一组数据同样扎眼：国内大量智算中心机柜平均利用率徘徊在20%至30%，部分企业级中心甚至低于10%。据中国信通院数据，2025年国内智算用算占比仅36.8%——每投入100元建算力，约70元在空转。

　　这显然不止是需求侧的问题。近年来，我国词元调用量飞速增长，从2024年初的日均1000亿到2026年3月突破140万亿，两年涨超千倍。截至今年6月，这一数字已接近175万亿。

　　问题的关键在于，海量的词元消耗，并没有转化为对等的商业价值。据业内调研，Token价格正经历有史以来最大幅度的下跌，多款模型单价跌幅达75%至99%。摩根大通预测，未来12个月内词元单价还会再降40%以上。

　　对用户来说，词元从“奢侈品”变成“自来水”当然喜闻乐见。但从算力到词元的应用价值转化路径来看，“自来水”如果抵达不了产业一线，资源空转的窘境很难彻底扭转。

　　麦肯锡研究指出，全球近九成企业已启动AI转型，但真正实现规模化应用的仅有约10%，75%的企业停留在零散的试点阶段，业内甚至将其命名为“试点陷阱”。

　　显然，从算力建设到词元消耗，“建多用少”的现象并不鲜见。AI产业的核心矛盾，正在从“词元产能不够”转向“落地应用不足”。

跨过三重门槛，把算力变现为AI生产力

　　算力空转的原因并不复杂，但解决起来并不容易。

　　第一重门槛是系统效率。词元的大规模生产依赖的不止是单颗芯片的峰值算力，更在于网络、存储、调度、能耗的整体协同。单芯片性能再强，如果系统跟不上，硬件性能只会白白损耗。

　　尤其面对大规模深度学习任务，异构计算体系中不同芯片间的海量数据交换，对PCIe带宽和延迟带来系统性挑战。如英伟达NVLink、海光HSL等互联协议，都是为了让多计算单元高效协作，提供远超PCIe的带宽和更低的延迟，进而在AI生产场景中扩大算力价值产出。

　　第二重门槛是负载结构变了。过去AI算力的主要负载是训练，一次跑完、批量产出。但当前推理对算力的调用量已经超过训练，智能体的崛起正在彻底改变算力的使用方式，Agent需要CPU完成高频的任务编排、实时决策和工具调用，而不是把算力都堆给GPU并行计算。

　　海光是国内极少数同时具备高端通用处理器和人工智能加速器的芯片厂商，CPU+DCU双芯既能承接Agent核心调度需求，也能进一步覆盖了词元生产的并行计算场景。以此推出的“Agent to Token开放计算架构”，也自然成为贯穿AI全周期管理的流程化算力架构。

　　第三重门槛是生态割裂。目前国内CPU和GPU厂商多达数十家，由于技术路线差异，各家的软硬件体系很难完整兼容。客户更换算力供应商时往往要重构整套业务系统，软件层还面临海量模型与多款芯片之间的适配难题，这也是长期掣肘AI生产力转化的关键堵点。

　　所以，自顾自攻关单卡算力还远远不够。业内需要一个开放兼容的生态底座，并进一步发展出更高效协同的算力体系，真正为用户提供将AI嵌入核心业务的有效路径。

　　否则，算力堆上去了，词元成本依然高昂，AI生产力依然低下，供需两侧依然结构性错配。

从“桶装水”到“自来水”，开放计算成为必选题

　　海光此次发布的Agent to Token开放计算架构，本质上是对上述问题的一次系统性回应。

　　这套架构的底层逻辑在于，Agent侧需要通用处理器进行任务编排、实时决策和高频工具调用；词元侧主要依赖AI加速卡并行批量解码、KV缓存加速、预处理加速和序列支撑。海光用CPU+DCU承载两大类计算场景，实现“Agent应用—词元生产”的全流程算力协同。

　　但是，如果仅局限于海光芯片的定向支持，仍然很难撬动庞大的AI应用生态体系。为此，Agent to Token开放计算架构提出四个维度全面开放。

• 其一，算力开放。架构支持海光CPU+DCU的纯国产方案，也支持海光CPU+其他厂商GPU、其他厂商CPU+海光DCU等异构组合，甚至支持云端DCU与端侧嵌入式芯片的云边协同。
• 其二，互联开放。以海光自主研发的HSL高速互连协议为核心，突破传统带宽瓶颈，并通过开放接口和适配机制，让不同芯片能够互连、不同算力能够协同、词元流动更加高效。
• 其三，安全开放。依托海光芯片级内生安全能力，为异构算力环境提供可信启动、数据保护、访问控制、远程证明和安全运维能力，从Agent业务流到词元生产构筑全链路防线。
• 其四，软件栈开放。基于DTK、DAS、DAP等软件能力，面向主流AI框架、编译器、算子库、推理引擎和容器编排系统提供开放适配，降低模型迁移、应用开发和异构部署成本。

　　针对“人工智能+”对词元质量的现实需求，这套开放计算架构正在联动生态圈层交出协同答卷。比如在智慧政务场景中，基于海光异构算力底座和拓尔思词元体系的高质量语料供给系统，现已成功产出超6000亿条数据资源、200万亿词元语料池，有效词元率达92%以上。

　　显然，开放计算的逻辑很清晰，AI落地不可能靠一家公司包打天下。算力需要被组织成一个可插拔、可替换、可演进的系统，而不是一个封闭的“铁桶”。

　　或许只有当算力“桶装水”融汇成自由流通的算力资源池，才能精准灌溉到AI应用层，在政务的审批流程、金融的风控决策、制造业的质检与调度中转化为高质高效的词元“自来水”。

　　这可能是中国AI算力下一个阶段最重要的叙事转换。