Model bahasa besar masih akan menjadi lebih kuat, tetapi data, penilaian, dan keselamatan sedang menjadi kekangan baharu.

Sepanjang beberapa tahun lalu, kemajuan model bahasa besar (LLM) hampir disamakan dengan “lebih besar”: jumlah parameter yang lebih besar, set data yang lebih besar, kuasa pengiraan yang lebih besar. Walau bagaimanapun, kajian tinjauan terkini menunjukkan bahawa peringkat seterusnya persaingan LLM mungkin tidak lagi ditentukan oleh siapa yang memiliki model terbesar, tetapi oleh siapa yang menguasai data berkualiti tinggi, siapa yang dapat menilai model dengan lebih tepat, dan siapa yang dapat menjadikan model lebih selamat dan terkawal.

Latar Belakang Industri: Dari Perlumbaan Skala kepada Kejuruteraan Kitaran Hayat Penuh

Tinjauan bertajuk 《A Survey of Large Language Models》 yang baru-baru ini diterbitkan dalam 《Frontiers of Computer Science》 menyusun secara sistematik perkembangan LLM. Artikel tersebut menganggap LLM sebagai sistem kitaran hayat yang lengkap: prapelatihan membina asas bahasa, fakta dan penaakulan; pascalatihan menjadikan model menyesuaikan diri dengan tugasan hiliran dan menyelaraskan dengan keutamaan manusia; kaedah penggunaan (seperti prompt, retrieval-augmented, rangka kerja Agent) menentukan bagaimana keupayaan diaktifkan; penilaian menguji sama ada model benar-benar boleh dipercayai, selamat dan mantap.

Perspektif ini bermakna kemajuan LLM bukan lagi masalah skala satu dimensi. Prestasi model bergantung pada interaksi antara data, seni bina, strategi latihan, kaedah penyelarasan, teknik semasa inferens, kekangan penggunaan dan piawaian penilaian. Kelemahan dalam mana-mana satu aspek boleh menghadkan prestasi model dalam senario sebenar.

Kesan Pasaran: Kebolehpercayaan dan Kebolehkawalan Menjadi Kunci Penggunaan Perusahaan

Bagi perusahaan, nilai LLM bukan sahaja terletak pada skor papan pendahulu, tetapi lebih pada keupayaan untuk beroperasi secara stabil dalam perniagaan yang kompleks. Kajian menunjukkan bahawa data berkualiti tinggi tidak terhad. Apabila saiz model meningkat, data awam yang bersih dan berguna semakin sukar diperoleh. Teks web berkualiti rendah, kandungan berulang, hingar, bias, bahan privasi dan hak cipta semuanya boleh menjejaskan prestasi model dan risiko pematuhan. Pembersihan data, penyahduplikasian, penapisan, perlindungan privasi, tokenisasi dan reka bentuk pencampuran data kini menjadi teras pembangunan model, bukan sekadar butiran teknikal.

Data sintetik dilihat sebagai satu cara untuk mengisi jurang data. Model sedia ada boleh menjana penaakulan matematik, contoh kod, pasangan soalan-jawapan dan sebagainya, tetapi jika model dilatih secara berulang menggunakan data yang dijana oleh model lain, tanpa maklumat baharu atau maklum balas yang boleh dipercayai, keupayaan mungkin menjadi terbantut atau bahkan merosot. Oleh itu, kunci masa depan bukanlah menghasilkan lebih banyak data, tetapi menghasilkan data yang baharu, boleh dipercayai, boleh disahkan dan mampan.

Penilaian adalah satu lagi kesesakan. Penanda aras tradisional semakin tepu; masalah seperti pencemaran data, kebocoran dan penurunan daya pembezaan menyukarkan skor untuk mencerminkan keupayaan model secara benar. Penilaian sedang beralih daripada “sama ada boleh menjawab soalan dengan betul” kepada “sama ada boleh beroperasi dengan boleh dipercayai, selamat dan telus dalam persekitaran sebenar”. Untuk penaakulan kompleks, konteks panjang, pemanggilan alat dan tugasan Agent, ujian statik sememangnya tidak mencukupi.

Penyelarasan dan keselamatan juga menjadi prasyarat untuk penggunaan. Model mungkin mengalami halusinasi, mungkin memberikan jawapan yang yakin ketika tidak pasti, mungkin membocorkan maklumat sensitif. Apabila LLM disambungkan kepada enjin carian, perisian pejabat, pendidikan, perubatan, penyelidikan saintifik dan pembangunan perisian, penyelarasan dan keselamatan bukan lagi topik penyelidikan abstrak, tetapi keperluan untuk pengkomersilan.## Landskap Persaingan: Siapa Mendapat Manfaat, Siapa Tertekan?

Bottleneck baharu sedang membentuk semula landskap persaingan. Syarikat yang mempunyai keupayaan tadbir urus data yang kukuh, sumber data proprietari dan sistem penilaian yang matang akan memperoleh kelebihan jangka panjang. Contohnya, syarikat yang menguasai data industri berkualiti tinggi boleh melatih model yang lebih khusus dan lebih boleh dipercayai; syarikat yang mampu membina persekitaran penilaian dinamik boleh mengesan kelemahan model dengan lebih cepat dan menambah baiknya.

Sebaliknya, syarikat model yang hanya bergantung pada data awam dan mengejar skor penanda aras mungkin menghadapi siling pertumbuhan. Walaupun komuniti model sumber terbuka menurunkan halangan kemasukan, perbezaan pelaburan dalam kualiti data dan penjajaran keselamatan akan melebarkan jurang. Selain itu, peningkatan keupayaan ejen membawa risiko yang lebih tinggi; apabila model melaksanakan tugas secara autonomi, ia memerlukan kawalan ralat yang lebih boleh dipercayai dan sempadan keselamatan yang jelas, yang mewujudkan pasaran baharu untuk alat keselamatan, platform penilaian dan perkhidmatan pematuhan.

Implikasi untuk Perusahaan: Apa yang Perlu Diberi Perhatian

Bagi perusahaan yang sedang menerapkan AI, perkara berikut wajar diberi perhatian:

1. Jangan hanya melihat skor penanda aras; nilai prestasi sebenar model dalam senario perniagaan sendiri dan bina set penilaian dalaman. 2. Utamakan pematuhan data dan perlindungan privasi, pastikan data latihan dan inferens datang daripada sumber yang sah dan boleh dikesan. 3. Beri perhatian kepada keselamatan dan kebolehkawalan model, dan wujudkan mekanisme semakan manusia dan kecemasan. 4. Apabila meneroka aplikasi ejen, pastikan terdapat mekanisme pemulihan ralat dan sempadan keselamatan yang mencukupi untuk mengelakkan autonomi daripada membesarkan ralat.

Tinjauan: Hala Tuju Masa Depan

Tinjauan ini meramalkan penyelidikan LLM sedang memasuki peringkat kejuruteraan kitaran hayat penuh. Dalam 12 bulan akan datang, kita mungkin akan melihat lebih banyak alat dan perkhidmatan muncul di sekitar tadbir urus data, automasi penilaian dan penjajaran keselamatan. Dalam tempoh 24 bulan, piawaian perolehan AI peringkat perusahaan akan beralih daripada "model yang lebih kuat" kepada "sistem yang lebih boleh dipercayai". Dalam tempoh tiga tahun, pemilikan data, piawaian penilaian dan pematuhan regulatori mungkin menjadi halangan persaingan paling penting dalam industri AI.

Model akan terus menjadi lebih kuat, tetapi kekuatan bukan lagi penunjuk teknikal yang terpencil, sebaliknya hasil gabungan data, keselamatan, penilaian dan keupayaan kejuruteraan. Bagi perusahaan, institusi pelaburan dan penggubal dasar, memahami peralihan ini adalah kunci untuk merebut fasa seterusnya industri AI.