Risiko AI ada dimana-mana - dan kini MIT menambahkan semuanya ke dalam satu database

Para peneliti membuat AI Risk Repository untuk mengkonsolidasikan data. Salah satu temuan mereka? Misinformasi adalah ancaman AI yang paling sedikit ditangani.

Saat ini, risiko kecerdasan buatan (AI) di seluruh aplikasi sudah terdokumentasi dengan baik, namun sulit diakses dengan mudah di satu tempat ketika membuat peraturan, kebijakan, atau keputusan bisnis. Sebuah laboratorium MIT bertujuan untuk memperbaikinya.

Pada hari Rabu, Laboratorium Ilmu Komputer dan Kecerdasan Buatan (CSAIL) MIT meluncurkan AI Risk Repository, sebuah database yang berisi lebih dari 700 risiko AI yang terdokumentasi. Menurut rilis CSAIL, database tersebut merupakan yang pertama dari jenisnya dan akan diperbarui secara konsisten untuk memastikannya dapat digunakan sebagai sumber daya aktif.

Proyek ini dipicu oleh kekhawatiran bahwa adopsi AI secara global akan melebihi kemampuan masyarakat dan organisasi dalam memahami risiko penerapannya. Data sensus menunjukkan bahwa penggunaan AI di industri AS meningkat dari 3,7% menjadi 5,45% -- peningkatan sebesar 47% -- antara September 2023 dan Februari 2024. Para peneliti dari CSAIL dan FutureTech Lab MIT menemukan bahwa "bahkan kerangka kerja individual yang paling menyeluruh pun mengabaikan sekitar 30 % dari risiko yang teridentifikasi di seluruh kerangka kerja yang ditinjau,” demikian pernyataan rilis tersebut.

Literatur yang terfragmentasi mengenai risiko AI dapat menyulitkan pembuat kebijakan, penilai risiko, dan pihak lain untuk mendapatkan gambaran lengkap mengenai permasalahan yang ada di hadapan mereka. “Sulit untuk menemukan studi risiko yang spesifik di beberapa domain khusus yang menggunakan AI, seperti senjata dan sistem pendukung keputusan militer,” kata Taniel Yusef, afiliasi riset Cambridge yang tidak terkait dengan proyek tersebut. “Tanpa mengacu pada studi-studi ini, akan sulit untuk membicarakan aspek teknis risiko AI kepada pakar non-teknis. Gudang ini membantu kami melakukan hal tersebut.”

Tanpa database, beberapa risiko mungkin tidak terdeteksi dan tidak dipertimbangkan secara memadai, jelas tim tersebut dalam rilisnya.

“Karena literatur mengenai risiko AI tersebar di berbagai jurnal, pracetak, dan laporan industri yang telah melalui tinjauan sejawat, dan cukup bervariasi, saya khawatir para pengambil keputusan tanpa sadar akan melihat tinjauan yang tidak lengkap, melewatkan permasalahan penting, dan mengembangkan titik-titik buta (blind spot) kolektif,” Dr. Peter Slattery, pemimpin proyek dan postdoc FutureTech Lab, mengatakan dalam rilisnya.

Untuk mengatasi hal ini, para peneliti di MIT bekerja sama dengan rekan-rekan dari institusi lain, termasuk University of Queensland, Future of Life Institute, KU Leuven, dan Harmony Intelligence, untuk membuat database. Repositori ini bertujuan untuk memberikan “ikhtisar lanskap risiko AI yang dapat diakses,” menurut situs tersebut, dan bertindak sebagai kerangka acuan universal yang dapat digunakan oleh siapa pun mulai dari peneliti dan pengembang hingga pelaku bisnis dan pembuat kebijakan.

Untuk membuatnya, para peneliti mengembangkan 43 kerangka klasifikasi risiko dengan meninjau catatan akademis dan database serta berbicara dengan beberapa ahli. Setelah menyaring lebih dari 700 risiko dari 43 kerangka kerja tersebut, para peneliti mengkategorikan masing-masing risiko berdasarkan penyebab (kapan atau mengapa hal itu terjadi), domain, dan subdomain (seperti “Misinformasi” dan “Informasi yang salah atau menyesatkan”).

Risikonya berkisar dari diskriminasi dan penyajian yang keliru hingga penipuan, manipulasi yang ditargetkan, dan penggunaan yang tidak aman. “Domain risiko yang paling sering ditangani,” jelas rilis tersebut, “termasuk 'keamanan, kegagalan, dan keterbatasan sistem AI' (76% dokumen); 'Kerusakan sosial ekonomi dan lingkungan' (73%); 'Diskriminasi dan toksisitas' (71 %); 'Privasi dan keamanan' (68%); dan 'Aktor jahat dan penyalahgunaan' (68%)."

Para peneliti menemukan bahwa interaksi manusia-komputer dan misinformasi adalah permasalahan yang paling sedikit ditangani dalam kerangka risiko. Lima puluh satu persen risiko yang dianalisis disebabkan oleh sistem AI, bukan manusia, yang bertanggung jawab atas 34% risiko tersebut, dan 65% risiko muncul setelah AI diterapkan, bukan selama pengembangan.

Topik seperti diskriminasi, pelanggaran privasi, dan kurangnya kemampuan merupakan isu yang paling banyak dibicarakan, muncul di lebih dari 50% dokumen yang ditinjau oleh para peneliti. Kekhawatiran bahwa AI menyebabkan kerusakan pada ekosistem informasi kita jauh lebih sedikit disebutkan, hanya dalam 12% dokumen.

MIT berharap Repositori ini akan membantu para pengambil keputusan untuk menavigasi dan mengatasi risiko yang ditimbulkan oleh AI dengan lebih baik, terutama dengan banyaknya inisiatif tata kelola AI yang berkembang pesat di seluruh dunia.

Repositori ini “merupakan bagian dari upaya yang lebih besar untuk memahami bagaimana kami merespons risiko AI dan untuk mengidentifikasi apakah ada kesenjangan dalam pendekatan kami saat ini,” kata Dr. Neil Thompson, peneliti dan kepala FutureTech Lab. “Kami memulai dengan daftar periksa yang komprehensif, untuk membantu kami memahami luasnya potensi risiko. Kami berencana menggunakannya untuk mengidentifikasi kekurangan dalam respons organisasi. Misalnya, jika setiap orang berfokus pada satu jenis risiko dan mengabaikan risiko lain yang sama pentingnya, maka hal tersebut adalah sesuatu yang harus kita perhatikan dan atasi."

Selanjutnya, para peneliti berencana menggunakan Repositori untuk menganalisis dokumen publik dari perusahaan dan pengembang AI guna menentukan dan membandingkan pendekatan risiko berdasarkan sektor.

AI Risk Repository tersedia untuk didownload dan disalin secara gratis, dan pengguna dapat mengirimkan masukan dan saran kepada tim di sini.