AI 基础设施
Agentic AI重塑网络需求:KPMG称推理工作负载驱动高速连接需求
KPMG技术负责人Phil Wong表示,Agentic AI和推理工作负载将推动高带宽、低延迟光纤连接需求,同时电力供应成为AI基础设施扩展的最大瓶颈。
行业背景
随着生成式AI从模型训练转向大规模推理部署,网络基础设施正面临新的压力。KPMG美国技术负责人Phil Wong在接受RCR Wireless News采访时指出,Agentic AI的兴起将彻底改变数据中心间的流量模式。Agentic AI不仅需要与云端企业数据系统频繁交互,推理负载还可能向网络边缘扩散,从而催生对高带宽、低延迟光纤连接的强劲需求。
市场影响
这一转变对AI基础设施的投资者和运营者影响深远。目前,资本支出高度集中于计算(GPU)容量,但Wong强调,每新增一吉瓦计算能力,都对应相应的连接需求——且随着工作负载从训练向推理迁移,这一比例将上升。这意味着网络设备商、光纤运营商和云服务商将迎来新的增长机会。同时,电力供应已成为比供应链延迟和劳动力短缺更严峻的瓶颈,部分超大规模数据中心因电力延迟和成本飙升已取消已承诺的容量。
竞争格局
受益者: 光纤运营商和高速互联硬件厂商(如Ciena、诺基亚等)有望获得新路由建设订单。专注推理优化和边缘计算的云平台(如AWS Local Zones、Azure Edge)可能抢占先机。
承压者: 位于传统数据中心枢纽的基础设施运营商可能面临需求外流。电力供应不足地区的AI项目将延迟或取消,影响相关设备供应商。
跟进者: 电信运营商和网络服务商需评估向偏远AI园区部署光纤的投资回报率,这些路线通常不经过传统人口与商业中心,营收模式面临挑战。
企业启示
- 企业应关注以下方面:
- 推理成本管理: 随着token消耗激增,企业需主动优化Agentic架构,减少不必要的推理调用,并采用更高效的模型。
- 网络规划前置: 若计划部署大规模AI应用,需提前与网络服务商协调光纤和边缘节点资源,避免因连接瓶颈影响延迟敏感型业务。
- 电力策略: 数据中心选址需优先考虑电力可用性,并评估绿色电力配套方案,以降低长期运营风险。
未来展望
未来12个月: 推理基础设施投资将加速,光纤建设订单增加,但电力限制可能拖累新项目投产进度。
未来24个月: Agentic AI企业应用普及将推动网络流量攀升,催生新一代推理专用网络架构。运营商开始针对偏远AI园区推出差异化定价模型。
未来3年: 物理AI(如机器人、自动驾驶)入市可能进一步将推理流量推向边缘,彻底重塑网络拓扑。高效模型与边缘计算结合将部分缓解带宽压力,但核心网络仍需持续扩容。
文章语境 · aiindustryreview
aiindustryreview 将这段说明放在「AI 模型 / 跟踪前沿模型发布、基准表现、安全评估、开放权重模型、多模态系统,以及买方真正关心的能力变化。 / 模型发布与能力声明」的站点语境中。「AI 模型 / 跟踪前沿模型发布、基准表现、安全评估、开放权重模型、多模态系统,以及买方真正关心的能力变化。 / 模型发布与能力声明」解释了本文的本地编辑角度;日期、名称和状态变化仍需重新核对。读者复用摘要前应先打开来源链接。