Infrastruktur AI

Gelombang pembinaan pusat data memasuki fasa baru: inferens menjadi tumpuan, elektrik menjadi kekangan.

Permintaan AI global mendorong pembangunan pusat data ke tahap baru. Bain & Company menunjukkan enam trend: penaakulan menjadi tumpuan, bekalan elektrik menjadi kekangan, pusat data menjadi lebih besar tetapi lebih fleksibel, dan lain-lain.

Latar Belakang Industri

Perkembangan pesat industri AI global sedang mendorong pembinaan pusat data ke fasa baharu. Menurut analisis terkini firma perunding Bain & Company, dalam tempoh 12 bulan lalu, pasaran pusat data menunjukkan enam trend ketara, menandakan peralihan industri ini daripada pengembangan skala semata-mata kepada model pembangunan yang lebih kompleks dan terperinci.

Perusahaan besar sedang mempercepat penggunaan aplikasi AI peringkat pengeluaran, mendorong syarikat teknologi berskala besar untuk terus memperluas kapasiti pengkomputeran. Momentum dan prospek pertumbuhan AI masih kukuh, dijangka akan diterjemahkan kepada permintaan yang berterusan untuk pembinaan pusat data.

Kesan Pasaran

Kadar pertumbuhan pembinaan baharu semakin stabil: Walaupun sebelum ini terdapat jangkaan bahawa pelaburan oleh vendor berskala besar mungkin menurun, realitinya adalah – pada tahun 2025 pelaburan mereka meningkat dengan ketara, dan dijangka terus berkembang dalam beberapa tahun akan datang. Walau bagaimanapun, vendor mula lebih mementingkan kecekapan modal, menjadi lebih selektif terhadap penggunaan baharu (terutamanya latihan AI).

Pusat data menjadi lebih besar tetapi lebih fleksibel: 'Kampus gergasi' dengan kapasiti kuasa sekurang-kurangnya 1 gigawatt (GW) akan menjadi konfigurasi standard untuk latihan model terdepan, tetapi hanya sebilangan terhad pusat data sebegini diperlukan di peringkat global. Sementara itu, beban kerja inferens mempunyai keperluan skala yang lebih sederhana, membolehkan rangkaian pusat data teragih yang lebih kecil. Pusat data baharu direka bentuk untuk fleksibel bertukar antara beban kerja latihan dan inferens, contohnya dengan menggunakan pelbagai penyelesaian penyejukan bagi mengelakkan aset terperangkap. Latihan teragih juga sedang diterokai, yang mungkin mengubah seni bina latihan.

Inferens menjadi tumpuan baharu: Corak beban kerja AI sedang berubah, kepentingan inferens berskala meningkat dengan ketara, selari dengan latihan model terdepan. Peralihan ini sebahagiannya berpunca daripada pelaksanaan kes penggunaan AI perusahaan yang jelas. Pengkomputeran masa ujian (test-time compute) sedang membentuk semula strategi infrastruktur, ekonomi, dan seni bina, memberi kesan mendalam terhadap pilihan pembinaan sendiri atau penempatan pusat data, kepelbagaian cip, dan konfigurasi kuasa.

Landskap Persaingan

Pertumbuhan tertumpu tetapi global: Amerika Utara mempunyai kapasiti pusat data terbesar, terutamanya didorong oleh perbelanjaan modal vendor berskala besar. Pada masa yang sama, strategi AI berdaulat dan penggunaan perusahaan sedang mengaktifkan pasaran serantau di seluruh dunia. Perusahaan berhadapan dengan keputusan: pasaran mana yang sesuai untuk menampung beban kerja apa? Mereka sedang mencari fleksibiliti geografi untuk menyelaraskan infrastruktur pengkomputeran dengan faktor latensi, kedaulatan data, dan akses tenaga.

Elektrik menjadi halangan pertumbuhan: Walaupun kekangan GPU dan pembinaan telah berkurangan, akses elektrik telah menjadi faktor kritikal yang mengehadkan pertumbuhan. Penjanaan kuasa di belakang meter (behind-the-meter, BTM) sedang mengubah keputusan dan garis masa pembinaan. Pada masa ini, projek BTM paling biasa di Amerika Syarikat, bergantung terutamanya pada penjanaan gas bebas, tetapi teknologi lain seperti sel bahan api oksida pepejal sedang diterokai. Syarikat utiliti, pemaju, dan badan pengawalseliaan menghadapi tekanan penyelarasan yang mendesak, dan terdapat kes di mana utiliti bekerjasama dengan pengendali pusat data untuk merancang permintaan elektrik yang besar.

Implikasi kepada Perusahaan## Pengajaran untuk Perusahaan

  • Perusahaan harus menilai semula strategi infrastruktur untuk beban kerja AI: keperluan yang berbeza untuk latihan dan inferens memerlukan reka bentuk dan lokasi yang lebih fleksibel.
  • Bekalan elektrik akan menjadi pertimbangan utama dalam pemilihan lokasi pada masa hadapan, perusahaan perlu bekerjasama awal dengan pembekal tenaga dan pihak berkuasa kawal selia.
  • Memandangkan inferens menjadi tumpuan, perusahaan harus memberi perhatian kepada pengoptimuman kos inferens dan kemungkinan penggunaan teragih.
  • Dalam penggunaan global, perlu mempertimbangkan kedaulatan data, kependaman, dan ketersediaan tenaga secara serentak, serta membina susun atur yang pelbagai.

Tinjauan Masa Depan

Dalam 12-24 bulan akan datang, kami menjangkakan:

  • Penyedia skala besar akan terus meningkatkan pelaburan pusat data, tetapi peruntukan modal akan menjadi lebih terperinci, contohnya dengan mengutamakan pembinaan pusat inferens.
  • Kesempitan bekalan elektrik akan mendorong lebih banyak penyelesaian inovatif berkaitan tenaga, termasuk penjanaan kuasa di belakang meter, reaktor nuklear kecil, dan penerokaan teknologi lain.
  • Pasaran serantau seperti Timur Tengah, Asia Tenggara, dan Amerika Latin akan mempercepatkan pembinaan disebabkan oleh keperluan AI berdaulat dan permintaan perusahaan tempatan.
  • Seni bina pusat data akan berkembang ke arah yang lebih fleksibel, dengan pelbagai pilihan penyejukan dan keupayaan untuk memperuntukkan sumber latihan/inferens secara dinamik.
  • Dalam tempoh 3 tahun, kapasiti pusat data global dijangka masih mengekalkan pertumbuhan dua angka, tetapi model pembinaan akan beralih daripada "pembinaan tergesa-gesa" kepada "pembinaan tepat".

Bagi keseluruhan industri AI, evolusi infrastruktur pusat data berfungsi sebagai sokongan dan kekangan: hanya apabila kesesakan infrastruktur berjaya diatasi, aplikasi berskala besar AI dapat benar-benar merealisasikan potensinya.

Konteks artikel · aiindustryreview

aiindustryreview meletakkan nota ini dalam AI Industry Review menerbitkan analisis dan taklimat berbilang bahasa.. Model AI / Pelancaran model dan dakwaan keupayaan / Penilaian, keselamatan dan isyarat penanda aras menerangkan sudut editorial setempat; tarikh, nama dan perubahan status masih perlu disemak. Pautan sumber perlu dibuka sebelum ringkasan digunakan semula.

Pautan sumber

  1. https://www.consultancy-me.com/news/amp/13587/the-data-center-construction-boom-has-entered-a-new-chapterUtama

Artikel berkaitan

Kembali ke saluran