Tiongkok dan AS merupakan bagian dari pakta multilateral untuk berkolaborasi dalam risiko AI

Diterbitkan oleh Inggris, Deklarasi Bletchley menyatukan 28 negara dalam sebuah perjanjian untuk secara kolektif mengidentifikasi dan mengelola potensi risiko dari kecerdasan buatan “perbatasan”.

Sekelompok 28 negara, termasuk Tiongkok dan Amerika Serikat, telah sepakat untuk bekerja sama dalam mengidentifikasi dan mengelola potensi risiko dari kecerdasan buatan (AI) “frontier”, yang menandai perjanjian multilateral pertama.

Diterbitkan oleh Inggris, Deklarasi Bletchley tentang Keamanan AI menguraikan pengakuan negara-negara tersebut atas “kebutuhan mendesak” untuk memastikan AI dikembangkan dan diterapkan dengan “cara yang aman dan bertanggung jawab” demi kepentingan komunitas global. Upaya ini memerlukan kerja sama internasional yang lebih luas, menurut Deklarasi tersebut, yang telah didukung oleh negara-negara di Asia, UE, dan Timur Tengah, termasuk Singapura, Jepang, India, Prancis, Australia, Jerman, Korea Selatan, Uni Emirat Arab, dan Nigeria. .

Negara-negara tersebut menyadari bahwa risiko-risiko signifikan dapat timbul dari penyalahgunaan yang disengaja atau masalah-masalah yang tidak disengaja dalam pengendalian AI, khususnya risiko-risiko dari keamanan siber, bioteknologi, dan disinformasi. Deklarasi tersebut menunjukkan potensi kerugian serius dan bencana besar dari model AI, serta risiko yang terkait dengan bias dan privasi.

Seiring dengan pengakuan mereka bahwa risiko dan kemampuan masih belum sepenuhnya dipahami, negara-negara tersebut telah sepakat untuk berkolaborasi dan membangun “pemahaman ilmiah dan berbasis bukti” mengenai risiko terdepan AI.

Deklarasi tersebut menggambarkan AI frontier sebagai sistem yang mencakup "model AI tujuan umum yang berkemampuan tinggi", termasuk model dasar, yang dapat melaksanakan berbagai tugas, serta AI yang spesifik dan sempit.

“Kami memutuskan untuk bekerja sama secara inklusif untuk memastikan AI yang aman dan berpusat pada manusia, dapat dipercaya, dan bertanggung jawab, serta mendukung kebaikan semua orang melalui forum internasional yang ada dan inisiatif relevan lainnya,” demikian bunyi Deklarasi tersebut.

“Dalam melakukan hal ini, kami menyadari bahwa negara-negara harus mempertimbangkan pentingnya pendekatan tata kelola dan peraturan yang pro-inovasi dan proporsional yang memaksimalkan manfaat, dan mempertimbangkan risiko yang terkait dengan AI.”

Pendekatan ini dapat mencakup penetapan klasifikasi dan kategorisasi risiko berdasarkan kondisi lokal suatu negara dan kerangka hukum yang berlaku. Mungkin juga diperlukan kerja sama dalam pendekatan-pendekatan baru, seperti prinsip-prinsip umum dan kode etik.

Upaya kelompok ini akan fokus pada pembuatan kebijakan berbasis risiko di seluruh negara, berkolaborasi jika diperlukan, dan mengakui pendekatan di tingkat negara mungkin berbeda. Selain perlunya peningkatan transparansi oleh pihak swasta yang sedang mengembangkan kemampuan AI terdepan, upaya baru ini juga mencakup pengembangan metrik evaluasi dan alat yang relevan untuk pengujian keamanan, serta kemampuan sektor publik dan penelitian ilmiah.

Perdana Menteri Inggris Rishi Sunak mengatakan: "Ini adalah pencapaian penting yang menunjukkan bahwa negara-negara besar di bidang AI sepakat mengenai pentingnya memahami risiko AI."

Menteri Teknologi Inggris Michelle Donelan menambahkan: "Kami selalu mengatakan bahwa tidak ada satu negara pun yang dapat menghadapi tantangan dan risiko yang ditimbulkan oleh AI sendirian, dan Deklarasi penting hari ini menandai dimulainya upaya global baru untuk membangun kepercayaan masyarakat dengan memastikan pengembangan teknologi yang aman. ."

Sebuah proyek yang dipimpin Singapura bernama Sandbox juga diumumkan minggu ini, dengan tujuan menyediakan serangkaian tolok ukur standar untuk menilai produk AI generatif. Inisiatif ini mengumpulkan sumber daya dari pemain global utama termasuk Anthropic dan Google, dan dipandu oleh draf katalog yang mengkategorikan tolok ukur terkini dan metode yang digunakan untuk mengevaluasi model bahasa besar.

Katalog ini mengkompilasi alat pengujian teknis yang umum digunakan, mengaturnya berdasarkan apa yang diuji dan metodenya, serta merekomendasikan serangkaian pengujian dasar untuk mengevaluasi produk AI generatif. Tujuannya adalah untuk membangun bahasa yang sama dan mendukung “adopsi AI generatif yang lebih luas, aman dan dapat dipercaya”.

Perserikatan Bangsa-Bangsa (PBB) bulan lalu membentuk tim penasihat untuk mengkaji bagaimana AI harus dikelola guna memitigasi potensi risiko, dengan janji untuk mengadopsi pendekatan "inklusif secara global". Badan tersebut saat ini terdiri dari 39 anggota dan mencakup perwakilan dari lembaga pemerintah, organisasi swasta, dan akademisi, seperti chief AI officer pemerintah Singapura, menteri luar negeri Spanyol untuk digitalisasi dan AI, dan CTO OpenAI.