AI 基础设施

Agentic AI重塑网络需求:KPMG称推理工作负载驱动高速连接需求

KPMG技术负责人Phil Wong表示,Agentic AI和推理工作负载将推动高带宽、低延迟光纤连接需求,同时电力供应成为AI基础设施扩展的最大瓶颈。

行业背景

随着生成式AI从模型训练转向大规模推理部署,网络基础设施正面临新的压力。KPMG美国技术负责人Phil Wong在接受RCR Wireless News采访时指出,Agentic AI的兴起将彻底改变数据中心间的流量模式。Agentic AI不仅需要与云端企业数据系统频繁交互,推理负载还可能向网络边缘扩散,从而催生对高带宽、低延迟光纤连接的强劲需求。

市场影响

这一转变对AI基础设施的投资者和运营者影响深远。目前,资本支出高度集中于计算(GPU)容量,但Wong强调,每新增一吉瓦计算能力,都对应相应的连接需求——且随着工作负载从训练向推理迁移,这一比例将上升。这意味着网络设备商、光纤运营商和云服务商将迎来新的增长机会。同时,电力供应已成为比供应链延迟和劳动力短缺更严峻的瓶颈,部分超大规模数据中心因电力延迟和成本飙升已取消已承诺的容量。

竞争格局

受益者: 光纤运营商和高速互联硬件厂商(如Ciena、诺基亚等)有望获得新路由建设订单。专注推理优化和边缘计算的云平台(如AWS Local Zones、Azure Edge)可能抢占先机。

承压者: 位于传统数据中心枢纽的基础设施运营商可能面临需求外流。电力供应不足地区的AI项目将延迟或取消,影响相关设备供应商。

跟进者: 电信运营商和网络服务商需评估向偏远AI园区部署光纤的投资回报率,这些路线通常不经过传统人口与商业中心,营收模式面临挑战。

企业启示

  • 企业应关注以下方面:
  • 推理成本管理: 随着token消耗激增,企业需主动优化Agentic架构,减少不必要的推理调用,并采用更高效的模型。
  • 网络规划前置: 若计划部署大规模AI应用,需提前与网络服务商协调光纤和边缘节点资源,避免因连接瓶颈影响延迟敏感型业务。
  • 电力策略: 数据中心选址需优先考虑电力可用性,并评估绿色电力配套方案,以降低长期运营风险。

未来展望

未来12个月: 推理基础设施投资将加速,光纤建设订单增加,但电力限制可能拖累新项目投产进度。

未来24个月: Agentic AI企业应用普及将推动网络流量攀升,催生新一代推理专用网络架构。运营商开始针对偏远AI园区推出差异化定价模型。

未来3年: 物理AI(如机器人、自动驾驶)入市可能进一步将推理流量推向边缘,彻底重塑网络拓扑。高效模型与边缘计算结合将部分缓解带宽压力,但核心网络仍需持续扩容。

文章语境 · aiindustryreview

aiindustryreview 将这段说明放在「AI 模型 / 跟踪前沿模型发布、基准表现、安全评估、开放权重模型、多模态系统,以及买方真正关心的能力变化。 / 模型发布与能力声明」的站点语境中。「AI 模型 / 跟踪前沿模型发布、基准表现、安全评估、开放权重模型、多模态系统,以及买方真正关心的能力变化。 / 模型发布与能力声明」解释了本文的本地编辑角度;日期、名称和状态变化仍需重新核对。读者复用摘要前应先打开来源链接。

来源链接

  1. https://www.rcrwireless.com/20260715/networks/agentic-ai-network-kpmg主要

相关文章

返回频道