Agentic AI membentuk semula keperluan rangkaian: KPMG kata beban kerja inferens mendorong keperluan sambungan berkelajuan tinggi

Latar Belakang Industri

Dengan peralihan AI generatif daripada latihan model kepada penggunaan inferens berskala besar, infrastruktur rangkaian menghadapi tekanan baharu. Phil Wong, Ketua Teknologi KPMG AS, dalam temu bual dengan RCR Wireless News, menegaskan bahawa kebangkitan Agentic AI akan mengubah sepenuhnya corak trafik antara pusat data. Agentic AI bukan sahaja perlu kerap berinteraksi dengan sistem data perusahaan di awan, tetapi beban inferens juga mungkin merebak ke tepi rangkaian, lantas menjana permintaan kukuh terhadap sambungan gentian optik berlebar jalur tinggi dan berkependaman rendah.

Kesan Pasaran

Peralihan ini memberi kesan mendalam kepada pelabur dan pengendali infrastruktur AI. Pada masa ini, perbelanjaan modal tertumpu tinggi pada kapasiti pengkomputeran (GPU), tetapi Wong menekankan bahawa setiap tambahan satu gigawatt kuasa pengkomputeran sepadan dengan keperluan sambungan yang setara – dan nisbah ini akan meningkat apabila beban kerja beralih daripada latihan kepada inferens. Ini bermakna pengeluar peralatan rangkaian, pengendali gentian optik, dan penyedia perkhidmatan awan akan menikmati peluang pertumbuhan baharu. Pada masa sama, bekalan elektrik telah menjadi kekangan yang lebih serius berbanding kelewatan rantaian bekalan dan kekurangan tenaga kerja. Sesetengah pusat data berskala besar telah membatalkan kapasiti yang telah dijanjikan akibat kelewatan elektrik dan kenaikan kos.

Landskap Persaingan

Penerima manfaat: Pengendali gentian optik dan pengeluar perkakasan sambungan berkelajuan tinggi (seperti Ciena, Nokia, dll.) dijangka memperoleh pesanan pembinaan laluan baharu. Platform awan yang memberi tumpuan kepada pengoptimuman inferens dan pengkomputeran tepi (seperti AWS Local Zones, Azure Edge) mungkin meraih kelebihan awal.

Yang tertekan: Pengendali infrastruktur yang terletak di hab pusat data tradisional mungkin menghadapi aliran keluar permintaan. Projek AI di kawasan yang kekurangan bekalan elektrik akan ditangguhkan atau dibatalkan, menjejaskan pembekal peralatan berkaitan.

Pengikut: Pengendali telekomunikasi dan penyedia perkhidmatan rangkaian perlu menilai pulangan pelaburan untuk menggunakan gentian optik ke taman AI yang terpencil. Laluan ini biasanya tidak melalui pusat penduduk dan perniagaan tradisional, justeru model hasil menghadapi cabaran.

Implikasi untuk Perusahaan

• Syarikat perlu memberi perhatian kepada aspek berikut:
• Pengurusan kos inferens: Dengan peningkatan mendadak penggunaan token, syarikat perlu mengoptimumkan secara proaktif seni bina Agentic, mengurangkan panggilan inferens yang tidak perlu, dan menggunakan model yang lebih cekap.
• Perancangan rangkaian awal: Jika merancang untuk menggunakan aplikasi AI berskala besar, perlu menyelaras sumber gentian optik dan nod tepi dengan penyedia perkhidmatan rangkaian lebih awal, bagi mengelakkan kesesakan sambungan daripada menjejaskan perniagaan yang sensitif terhadap kependaman.
• Strategi elektrik: Pemilihan lokasi pusat data perlu mengutamakan ketersediaan elektrik, dan menilai pilihan sokongan elektrik hijau untuk mengurangkan risiko operasi jangka panjang.

Tinjauan Masa Depan

12 bulan akan datang: Pelaburan dalam infrastruktur inferens akan dipercepatkan, pesanan pembinaan gentian optik meningkat, tetapi kekangan elektrik mungkin melambatkan kemajuan projek baharu.

24 bulan akan datang: Penggunaan aplikasi perusahaan Agentic AI akan mendorong trafik rangkaian melonjak, melahirkan seni bina rangkaian inferens khusus generasi baharu. Pengendali mula menawarkan model penetapan harga yang berbeza untuk taman AI yang terpencil.3 tahun akan datang: AI fizikal (seperti robot, pemanduan autonomi) memasuki pasaran mungkin akan mendorong lagi trafik inferens ke tepi, membentuk semula topologi rangkaian secara menyeluruh. Gabungan model cekap dan pengkomputeran tepi akan mengurangkan sebahagian tekanan lebar jalur, tetapi rangkaian teras masih perlu terus diperluaskan.