30倍吞吐、35倍降本：云的“电表时代”真的来了

英伟达把“电表”甩在了桌面上

  8月24日，英伟达宣布两件大事：Groq 3 LPX 机架全面量产，以及首次公布 Vera Rubin NVL72 的片上实测数据。

  数据有多离谱？基于 DeepSeek V4 Pro 跑智能体编码任务，Vera Rubin NVL72 每兆瓦吞吐量最高达到上代 GB300 NVL72 的 30 倍，每百万 Token 成本最高下降 35 倍。

  与此同时，单台 Groq 3 LPX 机架整合 256 颗 Groq 3，每秒处理 3400 个 Token，主打低延迟推理。

码农翻译：以前云厂商给客户报“一台服务器多少钱”，现在英伟达直接告诉你——“每一度电（每一兆瓦）能产出多少智能”。这是云计算定价权的根本性转移。

  为什么这件事对云技术意义重大？因为当单位算力成本骤降 35 倍，原先不经济的 AI 应用场景会瞬间变得可行。就像当年千瓦时电价降到一定程度，“家电”才走进了千家万户。云的“电表时代”，从这一刻起正式开启。

Agent 时代，旧基准失效，新技术范式登场

  英伟达这次测试有个细节值得码农圈反复玩味：他们弃用了传统基准，改用反映上下文增长与工具调用的 AgentX 测试。性能提升的来源不是简单的“堆芯片”，而是四项技术的协同：

• 分离式服务（Disaggregated Serving）
• KV 感知路由
• NVFP4 量化
• 第六代 NVLink 协同设计

  这四点翻译成大白话就是——Prefill 和 Decode 解耦、缓存智能调度、低精度推理、超高速互联。

  这恰好印证了国内厂商的技术方向。8月24日，摩尔线程发布《MTT S5000 Prefill-as-a-Service 技术白皮书》，基于旗舰级 AI 训推一体智算卡 MTT S5000，构建“Prefill As a Service”新范式，面向 AI Agent、代码生成、超长文档分析等长上下文推理场景。

业界共振：大洋彼岸在测分离式服务的 30 倍提升，国内厂商在推 Prefill 即服务——云的“炼油厂”正在从粗炼走向精炼。

  对于云技术研发来说，这意味着接下来的潜力赛道非常清晰：

1. 长上下文推理的成本优化

  Agent 时代，上下文动辄几十万 Token，Prefill 阶段的计算开销是传统短问答的数十倍。谁能把 Prefill 做成独立服务、弹性调度，谁就握住了 Agent 云的命脉。

2. 低延迟推理架构

  Groq 3 LPX 每秒 3400 Token 的量产，把“实时 Agent”的门槛拉到了新高度。云厂商要在毫秒级响应和成本之间找平衡，KV Cache 复用、投机解码、路由调度会成为核心研发方向。

3. 多精度混合推理

  NVFP4 量化能在可接受精度损失下把成本砍到 1/35，这意味着云上的推理服务会从“清一色 FP16”走向FP4 / FP8 / FP16 混合部署——像电网一样，不同电器接不同电压。

☁️ 云的“三层收入结构”浮出水面

  光有技术不够，还得有商业闭环。中证报8月26日的报道讲得很透：云厂商新增算力投入的平均回收周期已缩短，多家云厂商新建数据中心的内部收益率（IRR）已显著高于加权平均资本成本。云厂商的收入来源已形成“传统企业上云 + AI 原生公司 + 大模型厂商”的三层结构。

  Digitimes 的数据更直观：亚马逊、Alphabet 和微软二季度云业务收入合计 1063 亿美元，年度增速加快至 43%，为 2020 年以来最快增速。四大云厂商预计将把资本支出总额提高至创纪录的 7450 亿美元。

  摩根士丹利则给出了一个让人倒吸凉气的数字：Alphabet、亚马逊、Meta、微软和甲骨文这五大超大规模云服务商，加上英伟达和博通，AI 相关表外承诺合计超过 3.1 万亿美元。

⚠️ 但摩根士丹利也泼了一盆冷水：Alphabet 和亚马逊二季度自由现金流已降至零以下，超大规模云服务商超过 40% 的销售收入正被重新投入 AI 资本开支。“随着自由现金流转负，云服务商正更多通过租赁、发债、暂停股票回购以及发行股票来为算力扩张目标提供资金”。

  这恰恰是技术研发的催化剂——当钱不再“廉价”，云厂商必须从“堆料”转向“提效”。

️ 多云与本地：企业数据的“主权回归”

  8月24日，Cloudera 推出 Cloudera Anywhere Cloud，让企业跨多云和本地部署环境构建、部署和规模化运行生产级数据与 AI 应用。它的核心卖点是：在数据所在的位置提供一致的云体验，无需移动敏感数据资产。

  这事看着不如英伟达 30 倍提升那么炸裂，但对大型企业来说是刚需。金融、医疗、政务这些行业，数据不能出域是硬约束。Cloudera Anywhere Cloud 的“统一控制平面 + 模块化架构”，本质上是把云原生敏捷性直接送到了企业数据门口。

码农视角：这就像分布式电网——主干网是超大规模云，但每个小区可以有自己的微电网。未来的云技术研发，“跨云调度”和“边缘云原生”会是下一个黄金赛道。

️ 安全：被忽视的“云地基”

  8月24日的云网安周报揭示了一个不容忽视的趋势：AI 代理安全从“理论风险”全面进入“生产事故”——PleaseFix 零点击劫持覆盖全部主流 AI 浏览器，加密上下文注入绕过所有静态过滤器。Cisco Crosswork 一次性曝出 5 个 CVSS 10.0 漏洞。

  云服务商一边掌控漏洞一边掌控叙事的风险正在暴露。对于云技术研发来说，“零信任架构 + AI 代理身份管理 + 加密上下文隔离”会从“可选加固”变成“生死防线”。

码农财经的判断：这两天最值得押注的四大技术方向

  综合 8 月 24—26 日的最新动态，云计算技术研发的潜力赛道已经非常清晰：

方向一：分离式推理服务（Prefill/Decode Disaggregation）

  英伟达实测 30 倍提升的核心技术之一，摩尔线程也已入局。这是把云从“算力租赁”升级为“智能计量”的关键架构。

方向二：低精度推理与混合精度调度

  NVFP4 带来 35 倍成本下降。云平台的调度器需要进化成“精度路由器”——简单任务走 FP4，复杂任务走 FP16。

方向三：Agent 原生运行时

  Cloudflare 推出开源 AI 智能体运行时 Cloudflare Computer，利用 isolates 实现“每台智能体一台计算机”。Agent 时代的云，不再是“每台虚拟机一个应用”，而是“每个 Agent 一台计算机”。

方向四：跨云数据主权平台

  Cloudera Anywhere Cloud 代表了企业多云一致性的技术方向。随着数据合规要求趋严，“数据不动、计算动”的架构会成为企业云标配。

写在最后：云的下半场，是“电表”的下半场

  回看这两天的新闻，一条暗线串起了所有事件：云计算正在从“卖算力”过渡到“卖智能”。英伟达用 30 倍吞吐和 35 倍降本重新定义了“一度电的价值”；云厂商用 7450 亿美元资本开支下注这个未来；企业用 Cloudera Anywhere Cloud 守住了数据的“主权边界”；开发者用 Cloudflare Computer 重新想象 Agent 的运行环境。

码农财经金句：上半场云比的是“谁的电厂大”，下半场云比的是“谁的电表准”。

  对于技术研发者而言，接下来的 12 个月，把代码写进“分离式推理、低精度调度、Agent 运行时、跨云数据主权”这四件事里，远比再建十个数据中心更有价值。因为电厂可以一夜之间被超越，但电表背后的技术壁垒，才是云计算真正的护城河。

  Token 的电表已经开始转动，你准备好读数了吗？

图片