Singapura mengidentifikasi enam risiko generatif AI, menyiapkan landasan untuk memandu penerapannya
AI Verify Foundation akan mengembangkan perangkat pengujian yang memitigasi risiko AI.
Singapura telah mengidentifikasi enam risiko utama yang terkait dengan kecerdasan buatan generatif (AI) dan mengusulkan kerangka kerja mengenai bagaimana permasalahan ini dapat diatasi. Mereka juga telah mendirikan sebuah yayasan yang berupaya memanfaatkan komunitas sumber terbuka untuk mengembangkan perangkat pengujian yang memitigasi risiko penerapan AI.
Halusinasi, percepatan disinformasi, tantangan hak cipta, dan bias yang tertanam adalah beberapa risiko utama AI generatif yang diuraikan dalam laporan yang dirilis oleh Infocomm Media Development Authority (IMDA) Singapura. Makalah diskusi ini merinci kerangka kerja negara tersebut untuk adopsi teknologi baru yang “terpercaya dan bertanggung jawab”, termasuk standar keterbukaan informasi dan interoperabilitas global. Laporan ini dikembangkan bersama dengan Aicadium, sebuah perusahaan teknologi AI yang didirikan oleh perusahaan investasi milik negara Temasek Holdings.
Kerangka kerja ini menawarkan gambaran bagaimana pembuat kebijakan dapat meningkatkan tata kelola AI yang ada untuk mengatasi “karakteristik unik” dan kekhawatiran mendesak terkait AI generatif. Pertemuan ini juga membahas investasi yang diperlukan untuk memastikan hasil tata kelola dalam jangka panjang, kata IMDA.
Dalam mengidentifikasi halusinasi sebagai risiko utama, laporan tersebut mencatat bahwa -- serupa dengan semua model AI -- model AI generatif membuat kesalahan dan kesalahan ini sering kali terlihat jelas dan bersifat antropomorfisasi.
“ChatGPT versi saat ini dan sebelumnya diketahui membuat kesalahan faktual. Model seperti itu juga memiliki waktu yang lebih menantang dalam melakukan tugas-tugas seperti logika, matematika, dan akal sehat,” makalah diskusi tersebut mencatat.
“Hal ini karena ChatGPT adalah model bagaimana orang menggunakan bahasa. Meskipun bahasa sering kali mencerminkan dunia, namun sistem ini belum memiliki pemahaman mendalam tentang cara kerja dunia.”
Respons yang salah ini juga dapat terlihat meyakinkan atau autentik, tambah laporan tersebut, dengan menunjukkan bagaimana model bahasa telah menciptakan respons yang tampaknya sah namun salah terhadap pertanyaan medis, serta menghasilkan kode perangkat lunak yang rentan terhadap kerentanan.
Selain itu, penyebaran konten palsu semakin sulit diidentifikasi karena teks, gambar, dan video yang meyakinkan namun menyesatkan, yang berpotensi dihasilkan dalam skala besar menggunakan AI generatif.
Serangan peniruan identitas dan reputasi menjadi lebih mudah, termasuk serangan rekayasa sosial yang menggunakan deepfake untuk mendapatkan akses ke individu yang memiliki hak istimewa.
AI generatif juga memungkinkan terjadinya jenis bahaya lain, di mana pelaku ancaman yang tidak mempunyai keterampilan teknis atau tidak memiliki keterampilan teknis berpotensi menghasilkan kode berbahaya.
Risiko-risiko yang muncul ini mungkin memerlukan pendekatan baru terhadap tata kelola AI generatif, menurut makalah diskusi.
Menteri Komunikasi dan Informasi Singapura Josephine Teo mencatat bahwa para pemimpin global masih menjajaki arsitektur dan pendekatan alternatif AI, dan banyak pihak yang memperingatkan bahaya AI.
AI memberikan “kecerdasan mirip manusia” dengan potensi tingkat tinggi dan biaya yang jauh lebih rendah, yang sangat berharga bagi negara-negara seperti Singapura di mana sumber daya manusia merupakan pembeda utama, kata Teo, yang berbicara pada KTT Asia Tech x Singapura minggu ini. .
Namun, penggunaan AI yang tidak tepat dapat menimbulkan kerugian besar, katanya. “Oleh karena itu, pagar pembatas diperlukan untuk memandu masyarakat dalam menggunakannya secara bertanggung jawab dan agar produk AI dirancang ‘aman bagi kita semua’,” ujarnya.
“Kami berharap [makalah diskusi] akan memicu banyak diskusi dan membangun kesadaran tentang batasan yang diperlukan,” tambahnya.
Dalam dialog tertutup di KTT tersebut, ia mengungkapkan bahwa pejabat senior pemerintah juga memperdebatkan kemajuan terkini dalam AI, termasuk model AI generatif, dan mempertimbangkan bagaimana hal ini dapat mendorong pertumbuhan ekonomi dan berdampak pada masyarakat.
Para pejabat mencapai konsensus bahwa AI harus diatur dan digunakan secara “tepat” demi kebaikan umat manusia, kata Teo, yang memberikan ringkasan sebagai ketua diskusi. Peserta pertemuan yang terdiri dari para menteri tersebut mewakili negara-negara seperti Jerman, Jepang, Thailand, dan Belanda.
Para delegasi juga sepakat bahwa peningkatan kolaborasi dan pertukaran informasi mengenai kebijakan tata kelola AI akan membantu mengidentifikasi landasan bersama dan mengarah pada keselarasan antar pendekatan. Kesatuan ini akan mengarah pada kerangka tata kelola AI dan standar teknis yang berkelanjutan dan sesuai dengan tujuan, kata Teo.
Para pejabat mendesak interoperabilitas yang lebih besar antar kerangka tata kelola, yang mereka yakini diperlukan untuk memfasilitasi pengembangan dan adopsi teknologi AI yang bertanggung jawab secara global.
Ada juga pengakuan bahwa etika AI harus ditanamkan pada tahap awal pendidikan, sementara investasi dalam pelatihan ulang keterampilan harus diprioritaskan.
Menggalakkan komunitas
Singapura telah meluncurkan yayasan nirlaba untuk "memanfaatkan kekuatan kolektif" dan kontribusi komunitas sumber terbuka global untuk mengembangkan alat pengujian AI. Tujuannya adalah untuk memfasilitasi penerapan AI yang bertanggung jawab, dan mempromosikan praktik dan standar terbaik untuk AI.
Disebut AI Verify Foundation, lembaga ini akan menetapkan arah strategis dan peta jalan pengembangan AI Verify, yang diperkenalkan tahun lalu sebagai kerangka kerja dan perangkat pengujian tata kelola. Toolkit pengujian telah dibuat open source.
Anggota AI Verify Foundation saat ini berjumlah 60 orang termasuk IBM, Salesforce, DBS, Singapore Airlines, Zoom, Hitachi, dan Standard Chartered.
Yayasan ini beroperasi sebagai anak perusahaan yang dimiliki sepenuhnya di bawah IMDA. Dengan teknologi pengujian AI yang masih baru, lembaga pemerintah Singapura mengatakan memanfaatkan sumber terbuka dan komunitas riset akan membantu mengembangkan segmen pasar lebih lanjut.
Teo berkata: "Kami percaya AI adalah perubahan besar berikutnya sejak internet dan perangkat seluler. Di tengah ketakutan dan kekhawatiran yang nyata mengenai perkembangannya, kami perlu secara aktif mengarahkan AI ke arah penggunaan yang bermanfaat dan menjauhi penggunaan yang buruk. Ini adalah inti dari cara Singapura berpikir tentang AI."
Dalam pidatonya di KTT tersebut, Wakil Perdana Menteri dan Menteri Keuangan Singapura Lawrence Wong menegaskan kembali pentingnya membangun kepercayaan terhadap AI, sehingga teknologi tersebut dapat diterima secara luas.
“Kami telah menggunakan pembelajaran mesin untuk mengoptimalkan pengambilan keputusan dan AI generatif akan lebih dari itu untuk menciptakan konten baru dan menghasilkan ide-ide baru,” kata Wong. "Namun, masih ada kekhawatiran yang serius. Jika digunakan secara tidak tepat, [AI] dapat melanggengkan bias berbahaya dalam pengambilan keputusan. Dan dengan adanya gelombang terbaru AI, risikonya bahkan lebih tinggi karena AI menjadi semakin dekat dan mirip dengan manusia."
Tantangan-tantangan ini menimbulkan pertanyaan sulit bagi regulator, dunia usaha, dan masyarakat pada umumnya, katanya. “Pekerjaan seperti apa yang harus dibantu oleh AI? Seberapa besar kendali atas pengambilan keputusan yang harus dimiliki oleh AI dan perlindungan etis apa yang harus kita terapkan untuk membantu memandu pengembangannya?”
Wong menambahkan: "Tidak ada satu orang, organisasi, atau bahkan negara yang bisa menjawab semuanya. Kita semua harus bersatu untuk terlibat dalam diskusi kritis guna menentukan batasan yang tepat yang diperlukan untuk membangun sistem AI yang lebih dapat dipercaya."
Pada diskusi panel, Alexandra van Huffelen dari Kementerian Dalam Negeri dan Hubungan Kerajaan Belanda, mengakui potensi manfaat AI, namun menyatakan kekhawatiran mengenai potensi dampaknya, terutama di tengah sinyal beragam dari industri ini.
Menteri Digitalisasi mencatat bahwa para pelaku pasar, seperti OpenAI, memuji manfaat produk mereka, namun pada saat yang sama memberikan peringatan bahwa AI berpotensi menghancurkan umat manusia.
“Itu adalah kisah yang gila untuk diceritakan,” van Huffelen menyindir, sebelum bertanya kepada sesama panelis dari Microsoft bagaimana perasaannya karena perusahaannya adalah investor di OpenAI, gagasan di balik ChatGPT.
Para pendiri dan CEO OpenAI bulan lalu bersama-sama menerbitkan sebuah catatan di situs web perusahaan, yang mendesak regulasi sistem AI "superintelligence". Mereka berbicara tentang perlunya otoritas global, seperti Badan Energi Atom Internasional, untuk mengawasi pengembangan AI. Badan ini harus “memeriksa sistem, mewajibkan audit, menguji kepatuhan terhadap standar keselamatan, membatasi tingkat penyebaran dan tingkat keamanan,” dan tanggung jawab lain yang mereka usulkan.
“Penting bagi lembaga tersebut untuk fokus pada pengurangan risiko eksistensial dan bukan pada isu-isu yang harus diserahkan kepada masing-masing negara, seperti mendefinisikan apa yang boleh dikatakan oleh AI,” kata mereka. “Dalam hal potensi keuntungan dan kerugian, superintelligence akan lebih kuat dibandingkan teknologi lain yang harus dihadapi umat manusia di masa lalu...Mengingat kemungkinan adanya risiko eksistensial, kita tidak bisa hanya bersikap reaktif. Energi nuklir adalah sebuah hal yang umum. menggunakan contoh sejarah teknologi dengan sifat ini."
Sebagai tanggapan, Presiden Microsoft Asia Ahmed Mazhari mengakui bahwa penolakan van Huffelen bukannya tidak beralasan, dan menyatakan bahwa para pendukung yang sama yang menandatangani petisi pada bulan Maret untuk menghentikan pengembangan AI telah melanjutkan pada bulan berikutnya untuk berinvestasi pada chatbot AI mereka sendiri.
Menyinggung dampak buruk sosial yang diakibatkan oleh kurangnya pengawasan terhadap platform media sosial, Mazhari mengatakan industri teknologi mempunyai tanggung jawab untuk mencegah terulangnya kegagalan AI.
Dia mencatat bahwa diskusi yang sedang berlangsung dan meningkatnya kesadaran tentang perlunya peraturan AI, khususnya di bidang AI generatif, merupakan tanda positif bagi teknologi yang memasuki pasar enam bulan lalu.
Selain itu, van Huffelen menggarisbawahi perlunya perusahaan teknologi untuk bertindak secara bertanggung jawab, di samping perlunya penetapan peraturan, dan penegakan hukum untuk memastikan organisasi mematuhi peraturan tersebut. Dia mengatakan masih belum teruji apakah pendekatan ganda ini dapat dicapai secara bersamaan.
Dia juga menekankan pentingnya membangun kepercayaan, sehingga orang ingin menggunakan teknologi, dan memastikan pengguna memiliki kendali atas apa yang mereka lakukan secara online, seperti yang mereka lakukan di dunia fisik.
Rekan panelis Keith Strier, wakil presiden Nvidia untuk inisiatif AI di seluruh dunia, mencatat kompleksitas tata kelola karena aksesibilitas yang luas terhadap alat AI. Ketersediaan umum ini berarti ada lebih banyak peluang untuk membuat produk yang tidak aman.
Strier menyarankan bahwa peraturan harus menjadi bagian dari solusi, namun bukan satu-satunya jawaban, karena standar industri, norma sosial, dan pendidikan sama pentingnya dalam memastikan penerapan AI secara aman.