美AI巨头，盯上更快落地的小型算力部署

更快获得可用算力

  两家AI公司通常从数据中心运营商和新云服务商（neocloud）那里租用算力，并一直寻求大规模、长期的合作协议。

  上月有报道称，Anthropic与Nscale签署了一项规模约450亿美元的云服务协议。根据协议，Anthropic将租用后者位于美国西弗吉尼亚州一处数据中心项目约460兆瓦的算力容量。

  OpenAI今年4月表示，其“星际之门”（Stargate）AI基础设施项目已超过最初承诺的10吉瓦装机容量，此后又承诺在佐治亚州建设额外3吉瓦、在俄亥俄州建设8吉瓦的算力设施。

  然而，美国及其他地区的大型数据中心项目正越来越多地面临当地社区的反对。在欧洲许多地区，该行业同样承受压力，因为可供开发的土地和电力资源都十分紧张。

  Structure Research研究主管Jabez Tan称，小规模算力交易往往具有“更快获得可用算力”的优势。“与等待某一个地点释放规模更大的算力区块相比，在已经具备电力供应的现有场地获得几兆瓦的算力，可能更加实际。”

  他还表示：“对于能够跨不同地点运行的工作负载而言，多处小规模部署加起来也能形成相当可观的算力容量。”

AI算力需求转向推理

  训练AI模型需要大量计算能力，以处理海量数据；但在日常运行中进行推理并不需要使用规模很大的芯片集群。

  Tan表示：“训练大型模型通常需要大量芯片紧密协同工作。而许多推理工作负载则可以在多个较小的集群之间分别处理不同请求，从而可以选择更多部署地点。”

  随着越来越多AI算力从模型训练转向模型实际生产应用，这一变化的重要性正在上升。因此，用于推理的算力容量预计将持续增长。

  房地产公司JLL的一份报告显示，2027年，用于AI推理工作负载的数据中心容量占比预计将超过模型训练。

  今年2月，有消息称英伟达将与多家数据中心行业参与者展开合作，研究专门用于分布式推理的小规模数据中心。

  周四有报道称，美国公司Crusoe目前也开始投资规模更小的数据中心。与目前在美国各地面临延迟的大型数据中心项目相比，这些小型设施建设速度更快、成本也更低。

  Crusoe是AI基础设施建设热潮中业务迅速增长的多家新型云服务商之一。该公司周四宣布完成一轮39亿美元融资，投后估值达到309亿美元。