Waspadai 'keruntuhan model' AI: Bagaimana pelatihan data sintetis mencemari generasi berikutnya
Pakar Oxford menemukan bahwa model bahasa besar yang menggunakan data 'kanibal', yang dibuat oleh LLM lain, tenggelam dalam omong kosong belaka.
Untuk memenuhi kebutuhan yang tak ada habisnya dari kecerdasan buatan generatif (gen AI) terhadap data, para peneliti dalam beberapa tahun terakhir semakin banyak mencoba membuat data "sintetis", yang serupa dengan karya buatan manusia yang telah digunakan untuk melatih model AI, namun data itu sendiri diciptakan oleh AI.
Pergerakan data sintetis sangat dinamis karena masalah pelanggaran hak cipta pada data pelatihan berbasis manusia, dan juga karena persyaratan pelatihan model yang lebih baik pada akhirnya dapat melebihi ketersediaan data yang dihasilkan manusia.
Misalnya, dalam model sumber terbuka andalan Meta, Llama 3.1 405B, yang diperkenalkan perusahaan tersebut minggu lalu, para peneliti memanfaatkan data sintetis secara ekstensif untuk "menyempurnakan" model dan melengkapi masukan manusia yang mereka kumpulkan.
Tapi ada kendalanya. Para peneliti di Universitas Oxford memperingatkan dalam edisi terbaru jurnal sains bergengsi Nature bahwa penggunaan data sintetis untuk melatih gen AI dapat secara drastis menurunkan keakuratan model, hingga membuatnya tidak berguna.
Para peneliti Universitas Oxford memasukkan keluaran model bahasa besar ke dalam program pelatihan model yang berurutan, yang pada akhirnya memaksa model tersebut menghasilkan omong kosong setelah beberapa generasi.
Dalam makalah tersebut, penulis utama Ilia Shumailov dan timnya menjelaskan apa yang mereka sebut sebagai "keruntuhan model", dan bagaimana hal ini menjadi lebih buruk setiap kali model memberikan data palsu kepada model berikutnya.
“Keruntuhan model adalah proses degeneratif yang memengaruhi generasi model generatif yang dipelajari, di mana data yang dihasilkan akhirnya mencemari rangkaian pelatihan generasi berikutnya,” tulis tim Shumailov. “Karena dilatih mengenai data yang tercemar, mereka kemudian salah memahami kenyataan.”
Pergeseran distribusi terjadi ketika probabilitas jawaban tertentu berubah seiring dengan perubahan model AI. Dalam grafik, kurva model AI versi generasi kesembilan bergeser ke kiri, sehingga "kebingungan", keragaman jawaban, menjadi berkurang dan jawaban yang lebih umum mengambil alih, sehingga menurunkan kualitas respons model.
Secara khusus, model-model tersebut kehilangan jejak fakta-fakta yang kurang umum dari generasi ke generasi, sehingga menjadi semakin umum. Ketika mereka melakukannya, jawaban yang mereka hasilkan menjadi sama sekali tidak relevan dengan pertanyaan yang mereka ajukan, dan berubah menjadi omong kosong belaka. “Model mulai melupakan peristiwa-peristiwa yang tidak mungkin terjadi seiring berjalannya waktu, karena model tersebut menjadi teracuni oleh proyeksi realitasnya sendiri,” tulis mereka.
Para penulis menulis bahwa temuan ini “harus ditanggapi dengan serius,” karena generasi AI berisiko mengalami proses kemunduran yang semakin parah jika internet semakin dibanjiri dengan keluaran model AI yang kemudian digunakan kembali. “Penggunaan LLM dalam skala besar untuk mempublikasikan konten di internet akan mencemari pengumpulan data untuk melatih penerusnya: data tentang interaksi manusia dengan LLM akan semakin berharga,” tulis mereka.
Untuk mencapai kesimpulan tersebut, penulis melakukan eksperimen menggunakan model AI sumber terbuka Meta, OPT, untuk "transformator terlatih terbuka", yang diperkenalkan pada tahun 2022. Strukturnya mirip dengan GPT-3 OpenAI, tetapi jauh lebih kecil, dengan hanya 125 juta parameter saraf, atau "bobot".
Tim Shumailov menggunakan kumpulan data Wikitext2 dari artikel Wikipedia untuk "menyempurnakan" OPT, yang berarti melatihnya kembali dengan data tambahan, sebuah praktik yang sangat umum di gen AI. Para penulis kemudian menggunakan OPT yang telah disempurnakan untuk kemudian menghasilkan salinan sintetik dari data Wikiteks, dan mereka memasukkan data baru dan palsu tersebut ke operasi penyempurnaan berikutnya, semacam penggunaan kanibalistik dari keluaran sebuah model sebagai masukan dari yang lain.
Para penulis memberikan contoh tentang apa yang terjadi setelah lima putaran penggunaan masing-masing model yang telah disempurnakan sebagai sumber pengajaran berikutnya: pada generasi kelima, hal tersebut hanyalah omong kosong belaka. Pada saat yang sama, tulis mereka, kesalahan fakta tertentu menjadi lebih umum terjadi pada setiap generasi: "Kami menemukan bahwa, dari generasi ke generasi, model […] mulai memperkenalkan rangkaian mustahil mereka sendiri, yaitu kesalahan."
Contoh bagaimana model AI gagal setelah hanya lima iterasi pelatihan dengan keluaran dari model sebelumnya.
Merefleksikan apa yang dapat dilakukan untuk menghindari keruntuhan model, penulis mengakhiri makalah mereka dengan catatan yang tidak menyenangkan. Sangat penting untuk melestarikan data pelatihan asli yang dibuat oleh manusia, dan juga memiliki akses berkelanjutan ke data baru yang dibuat oleh manusia, namun hal ini menjadi lebih sulit karena data sintetis dari gen AI semakin memenuhi internet, menciptakan semacam kehilangan internet di masa lalu.
Mereka memperingatkan, "Mungkin akan semakin sulit untuk melatih versi LLM yang lebih baru tanpa akses ke data yang dijelajahi dari internet sebelum teknologi tersebut diadopsi secara massal atau akses langsung ke data yang dihasilkan oleh manusia dalam skala besar."
Para editor majalah tersebut mungkin menyimpulkan masalahnya secara paling ringkas dengan pepatah lama ilmu data yang mereka tempatkan di sampulnya: "sampah masuk, sampah keluar."