Halangan sebenar infrastruktur AI: penyampaian data bukan kuasa pengiraan GPU

Latar Belakang Industri

AI perusahaan sedang beralih dari fasa eksperimen ke fasa pengoperasian. Dalam tempoh 18 bulan lalu, syarikat-syarikat berlumba-lumba membeli GPU, menggunakan Model Bahasa Besar (LLM) dan membina rantaian alat AI. Namun menurut laporan IDC Spotlight 2025, organisasi beralih daripada penggunaan AI sekali sahaja kepada seni bina pengeluaran yang boleh diulang dan berskala. Apabila AI diterapkan ke dalam teras perniagaan, prestasi, keselamatan, kebolehpercayaan dan konsistensi operasi menjadi sama penting dengan inovasi model.

Walau bagaimanapun, prestasi sebenar kebanyakan projek AI tidak memuaskan. Pembuat keputusan teknikal sering menyalahkan kekuatan pengiraan yang tidak mencukupi, lalu menambah GPU, memperluas kluster atau menggantikan model yang lebih kuat. Tetapi pasukan infrastruktur mendapati masalah sering terletak pada lapisan data: GPU yang mahal bukan kekurangan kekuatan pengiraan, tetapi kekurangan data.

Kesan Pasaran

Kos pengangguran GPU sangat tinggi. Menurut analisis downtime tahunan Uptime Institute 2025, lebih separuh daripada perusahaan mengalami downtime besar terakhir dengan kos melebihi AS$100,000, dan satu perlima melebihi AS$1 juta. Apabila saluran data tersumbat, penggunaan GPU merudum terus menelan pulangan pelaburan AI.

Naib Presiden Kanan Pemasaran Produk F5, Nirav Shah, menyamakan infrastruktur AI moden dengan gunung ais: di atas permukaan adalah LLM, aplikasi AI, rangka kerja orkestrasi dan kluster GPU yang kelihatan (kira-kira 10%); di bawah permukaan adalah sistem storan, rangkaian, pengurusan trafik, kawalan keselamatan dan pemindahan data yang menentukan sama ada pelaburan menghasilkan nilai sebenar (90%). Perusahaan terlalu fokus pada hujung gunung ais dan mengabaikan kesesakan sebenar.

Landskap Persaingan

Peralihan persepsi ini sedang membentuk semula pasaran infrastruktur AI. Pembekal GPU tradisional (seperti NVIDIA) masih menjadi penerima manfaat teras, tetapi penyedia penyelesaian penghantaran data – seperti F5, NetApp, Pure Storage dsb. – mendapat peluang pertumbuhan baharu. Pengawal Penghantaran Aplikasi (ADC) sedang berkembang menjadi Platform Penghantaran dan Keselamatan Aplikasi (ADSP), menggabungkan kejuruteraan trafik, kawalan keselamatan dan visualisasi menjadi satu.

Sebaliknya, seni bina yang hanya bergantung pada capaian storan langsung menghadapi cabaran. Reka bentuk yang digabungkan rapat mendedahkan kelemahan prestasi pada skala AI: kelewatan puncak, kesesakan throughput dan lonjakan trafik memberi kesan kecil kepada aplikasi tradisional tetapi membesarkan isu prestasi AI secara berganda.

Pengajaran untuk Perusahaan

• Perusahaan harus meneliti semula bahagian infrastruktur "di bawah garis air". Pertama, beralih daripada seni bina gabungan rapat kepada seni bina longgar: masukkan lapisan kawalan pintar (seperti ADC) antara storan dan pengiraan untuk mengendalikan penamatan TLS, pengurusan sijil, pengoptimuman trafik dan pelaksanaan dasar, membebaskan sumber CPU sistem storan supaya dapat fokus pada perkhidmatan data.Kedua, bina keanjalan dari tiga dimensi:
• Kebolehcapaian: Pastikan beban kerja AI sentiasa boleh mengakses sumber storan yang sihat, dan boleh bertukar secara automatik semasa kegagalan.
• Strategi: Cegah anomali trafik seperti "kesan kawanan" dan "ribut cubaan semula", bentuk trafik melalui lapisan kawalan pintar dan kekalkan postur keselamatan.
• Penghantaran: Asingkan penyelenggaraan perubahan antara klien dan nod storan, kekalkan aliran data tanpa gangguan.

Kes: Sebuah institusi perkhidmatan kewangan global yang besar melalui penggunaan ADC fizikal khusus, mencapai peningkatan prestasi operasi penciptaan, pembacaan, dan pemadaman objek sebanyak lebih 5 kali ganda, latensi pemadaman diperbaiki satu urutan magnitud, dan tiada regresi prestasi.

Tinjauan Masa Depan

Dalam 12-24 bulan akan datang, pelaburan infrastruktur AI akan beralih daripada pengembangan kluster GPU kepada pengoptimuman saluran data. Syarikat akan lebih memberi tumpuan kepada pulangan pelaburan "lapisan penghantaran data", mendorong evolusi ADC kepada ADSP. Dalam 24-36 bulan, kebanyakan perusahaan besar akan menggunakan seni bina gandingan longgar, penghantaran data akan menjadi daya saing utama operasi AI. Pelabur harus memberi perhatian kepada vendor infrastruktur yang menyediakan penghantaran data, perlindungan keselamatan, dan pengurusan trafik pintar, bukannya hanya fokus kepada penyedia kuasa pengiraan.