Alat peracunan data memungkinkan seniman melawan pengikisan AI. Begini caranya
Disebut Nightshade, alat ini mengacaukan piksel data pelatihan untuk membingungkan model AI penghasil gambar.
Masalah utama yang mengganggu model AI generatif adalah AI scraping, yaitu proses yang digunakan oleh perusahaan AI untuk melatih model AI mereka dengan mengambil data dari sumber internet tanpa izin pemiliknya. Pengikisan AI dapat memberikan dampak yang sangat negatif terhadap seniman visual, yang karyanya dikikis untuk menghasilkan karya seni baru dalam model teks ke gambar. Namun kini, mungkin ada solusinya.
Para peneliti di Universitas Chicago telah menciptakan Nightshade, sebuah alat baru yang memberi seniman kemampuan untuk "meracuni" seni digital mereka untuk mencegah pengembang melatih alat AI pada karya mereka.
Dengan menggunakan Nightshade, seniman dapat membuat perubahan pada piksel dalam karya seni mereka yang tidak terlihat oleh mata manusia, namun menyebabkan model AI generatif rusak dengan cara yang "kacau" dan "tidak dapat diprediksi", menurut MIT Technology Review, yang mendapat laporan eksklusif pratinjau penelitian.
Serangan cepat-spesifik menyebabkan model AI generatif menghasilkan keluaran yang tidak berguna karena memanipulasi pembelajaran model, yang menyebabkan model membingungkan subjek satu sama lain.
Misalnya, ia mungkin mengetahui bahwa seekor anjing sebenarnya adalah seekor kucing, yang pada gilirannya akan menyebabkan model menghasilkan gambar yang salah dan tidak cocok dengan perintah teks.
Menurut makalah penelitian, sampel racun Nightshade dapat merusak prompt Difusi Stabil di bawah 100 sampel, seperti yang terlihat pada gambar di bawah.
Selain meracuni istilah tertentu, keracunan juga berdarah melalui istilah terkait.
Misalnya, dalam contoh di atas, istilah "anjing" tidak hanya terpengaruh tetapi juga sinonim seperti "anak anjing", "anjing", dan "husky", menurut makalah penelitian.
Korelasi antar istilah juga tidak harus langsung seperti contoh di atas. Misalnya, makalah ini menggambarkan bagaimana istilah "seni fantasi" diracuni, begitu pula frasa terkait "lukisan karya Michael Whelan", seorang pencipta seni fantasi terkenal.
Terdapat berbagai potensi pertahanan yang dapat diterapkan oleh pelatih model, termasuk memfilter data dengan tingkat kerugian tinggi, metode deteksi posisi, dan metode penghilangan racun, namun ketiganya tidak sepenuhnya efektif.
Selain itu, data yang diracuni sulit untuk dihapus dari model karena perusahaan AI harus masuk dan menghapus satu per satu setiap sampel yang rusak.
Nightshade tidak hanya berpotensi menghalangi perusahaan AI untuk menggunakan data tanpa meminta izin, tetapi juga mendorong pengguna untuk berhati-hati saat menggunakan salah satu model AI generatif ini.
Upaya lain telah dilakukan untuk mengurangi masalah penggunaan karya seniman tanpa izin mereka. Beberapa model penghasil gambar AI, seperti pembuat gambar Getty Images dan Adobe Firefly, hanya menggunakan gambar yang disetujui oleh senimannya atau bersumber terbuka untuk melatih model mereka dan memiliki program kompensasi sebagai imbalannya.