Perangkat etika AI diperbarui untuk menyertakan lebih banyak komponen penilaian
Versi kedua dari Veritas Toolkit mencakup metodologi penilaian untuk akuntabilitas dan transparansi, untuk memandu lembaga keuangan dalam penggunaan kecerdasan buatan yang 'bertanggung jawab'.
Perangkat lunak telah diperbarui untuk membantu lembaga keuangan mencakup lebih banyak bidang dalam mengevaluasi penggunaan kecerdasan buatan (AI) yang “bertanggung jawab”.
Pertama kali diluncurkan pada bulan Februari tahun lalu, perangkat penilaian ini berfokus pada empat prinsip utama seputar keadilan, etika, akuntabilitas, dan transparansi - yang secara kolektif disebut FEAT. Laporan ini menawarkan daftar periksa dan metodologi bagi bisnis di sektor keuangan untuk menentukan tujuan penggunaan AI dan analisis data serta mengidentifikasi potensi bias.
Toolkit ini dikembangkan oleh konsorsium yang dipimpin oleh Otoritas Moneter Singapura (MAS) yang beranggotakan 31 pelaku industri, termasuk Bank of China, BNY Mellon, Google Cloud, Microsoft, Goldman Sachs, Visa, OCBC Bank, Amazon Web Services, IBM, dan Citibank.
Rilis pertama perangkat ini berfokus pada metodologi penilaian untuk komponen "keadilan" dalam prinsip-prinsip FEAT, termasuk otomatisasi penilaian metrik dan visualisasi prinsip ini.
Perulangan kedua telah diperbarui untuk mencakup metodologi tinjauan untuk tiga prinsip lainnya, serta metodologi penilaian “kewajaran” yang ditingkatkan, kata MAS. Beberapa bank dalam konsorsium telah menguji perangkat tersebut.
Tersedia di GitHub, perangkat sumber terbuka ini memungkinkan plugin untuk memungkinkan integrasi dengan sistem TI lembaga keuangan.
Konsorsium tersebut, yang disebut Veritas, juga mengembangkan kasus penggunaan baru untuk menunjukkan bagaimana metodologi ini dapat diterapkan dan menawarkan pelajaran penting dalam penerapannya. Hal ini termasuk studi kasus yang melibatkan Reasuransi Swiss, yang menjalankan penilaian transparansi untuk fungsi penjaminan emisi berbasis AI yang bersifat prediktif. Google juga berbagi pengalamannya dalam menerapkan metodologi FEAT pada sistem pembayaran deteksi penipuan di India dan memetakan prinsip dan proses AI-nya.
Veritas juga merilis whitepaper yang menguraikan pelajaran yang dibagikan oleh tujuh lembaga keuangan, termasuk Standard Chartered Bank dan HSBC, mengenai integrasi metodologi penilaian AI dengan kerangka tata kelola internal mereka. Hal ini mencakup kebutuhan akan “kerangka AI yang bertanggung jawab” yang mencakup berbagai wilayah dan model berbasis risiko untuk menentukan tata kelola yang diperlukan dalam kasus penggunaan AI. Dokumen tersebut juga merinci praktik AI yang bertanggung jawab dan pelatihan bagi generasi baru profesional AI di sektor keuangan.
Chief Fintech Officer MAS Sopnendu Mohanty mengatakan: "Mengingat pesatnya perkembangan AI, sangatlah penting bagi lembaga keuangan untuk memiliki kerangka kerja yang kuat untuk penggunaan AI secara bertanggung jawab. Veritas Toolkit versi 2.0 akan memungkinkan lembaga keuangan dan perusahaan fintech untuk menilai secara efektif kasus penggunaan AI mereka demi keadilan, etika, akuntabilitas, dan transparansi. Hal ini akan membantu mendorong ekosistem AI yang bertanggung jawab."
Pemerintah Singapura telah mengidentifikasi enam risiko utama yang terkait dengan AI generatif dan mengusulkan kerangka kerja untuk mengatasi masalah ini. Hal ini juga membentuk sebuah yayasan yang berupaya memanfaatkan komunitas open source untuk mengembangkan perangkat pengujian yang memitigasi risiko penerapan AI.
Dalam kunjungannya ke Singapura awal bulan ini, CEO OpenAI Sam Altman mendesak pengembangan AI generatif bersamaan dengan konsultasi publik, dan manusia tetap memegang kendali. Dia mengatakan hal ini penting untuk memitigasi potensi risiko atau bahaya yang mungkin terkait dengan penerapan AI.
Altman mengatakan bahwa mengatasi tantangan terkait bias dan lokalisasi data juga merupakan hal yang penting, seiring dengan semakin populernya AI dan semakin menariknya minat banyak negara. Bagi OpenAI, gagasan di balik ChatGPT, hal ini berarti mencari cara untuk melatih platform AI generatifnya pada kumpulan data yang "beragam mungkin" dan mencakup berbagai budaya, bahasa, dan nilai-nilai, antara lain.