SAS menggembar-gemborkan integrasi dengan toolkit Singapura untuk membantu mengoperasionalkan adopsi AI yang bertanggung jawab
SAS Institute mengatakan integrasi platform Viya dengan perangkat lunak yang dirilis oleh Otoritas Moneter Singapura, bertujuan untuk membantu lembaga keuangan yang berjuang untuk mempraktikkan prinsip-prinsip inti yang mengatur penggunaan kecerdasan buatan yang etis dan bertanggung jawab.
SAS Institute telah mengintegrasikan platform manajemen analitik datanya dengan perangkat lunak yang dirilis oleh Otoritas Moneter Singapura (MAS) untuk membantu lembaga keuangan memastikan bahwa mereka menggunakan kecerdasan buatan (AI) secara bertanggung jawab. Langkah ini bertujuan untuk mengatasi tantangan umum yang dihadapi bisnis ini dengan menggabungkan prinsip-prinsip inti yang mengatur penggunaan AI secara etis.
MAS pada bulan Februari meluncurkan toolkit open source untuk mengotomatiskan proses yang diperlukan untuk menilai adopsi AI perusahaan berdasarkan empat prinsip - keadilan, etika, akuntabilitas, dan transparansi, atau FEAT. Dikembangkan oleh konsorsium Veritas, toolkit ini memungkinkan plugin untuk memungkinkan integrasi dengan sistem TI lembaga keuangan.
SAS mengatakan pada hari Rabu bahwa integrasi platform manajemen analitiknya, Viya, dengan toolkit Veritas akan memungkinkan penilaian prinsip-prinsip FEAT dalam model analitik, memanfaatkan pembuatan bahasa alami dan kemampuan alur kerja di Viya. Platform SAS juga bekerja dengan toolkit untuk meningkatkan otomatisasi.
Bisnis Singapura sering berjuang untuk mengoperasionalkan adopsi AI mereka berdasarkan prinsip-prinsip Veritas, kata Manisha Khanna, kepala AI dan analitik SAS Asia-Pasifik. Integrasi dengan toolkit membantu mengurangi kompleksitas, misalnya, dengan mengidentifikasi atribut sensitif secara otomatis untuk memastikan kepatuhan.
Ini juga memfasilitasi aliran keputusan "AI yang dapat dijelaskan", kata Khanna, menambahkan bahwa hasil yang dihasilkan oleh model AI secara otomatis ditandai dengan penjelasan berbasis teks tentang bagaimana ini ditentukan.
Selain itu, laporan peraturan dan audit dapat diisi secara otomatis, yang selanjutnya meningkatkan produktivitas staf, katanya.
Direktur Pelaksana SAS Singapura Lim Hsin Yin mencatat bahwa adopsi AI yang bertanggung jawab rendah karena kepercayaan dan keseimbangan, di mana bisnis perlu memiliki kepercayaan pada teknologi serta menyeimbangkan profitabilitas perusahaan dengan tanggung jawab sosial untuk mengadopsi AI secara etis.
Kolaborasi dengan MAS bertujuan untuk mengatasi hal ini, kata Lim.
Kepala petugas praktik etika data SAS, Reggie Townsend mengatakan: "Kebutuhan akan kerangka peraturan untuk memanfaatkan janji AI sambil mengurangi risikonya tidak hanya penting, tetapi juga mendesak di masa-masa ini. Baik penyedia teknologi maupun regulator memiliki peran penting untuk memastikan pengembangan AI berpusat di sekitar manusia untuk memastikan dampak positif pada masyarakat kita."
Townsend mengatakan aplikasi AI dan pembelajaran mesin belajar dari waktu ke waktu dan dapat menempatkan masyarakat dalam skenario yang tidak dapat mereka antisipasi. Oleh karena itu, undang-undang diperlukan untuk mengelola ini sementara definisi "inovasi yang bertanggung jawab" dengan AI terus berkembang, katanya.
Ini tidak berbeda dengan transisi sebelumnya, misalnya, ketika mobil pertama kali diperkenalkan dan melaju di jalanan bersama kereta kuda dan tidak adanya lampu lalu lintas.
Dia mengatakan SAS telah membentuk komite pengawasan yang beroperasi secara internal untuk memastikan kontrol yang diperlukan tersedia untuk membantu vendor perangkat lunak mengurangi risikonya sendiri dan menerapkan AI secara bertanggung jawab. Terkadang, ini berarti menjauh dari penerapan pelanggan tertentu, sehingga platformnya bukan bagian dari ekosistem yang tidak diinginkannya, tambahnya.
Ditanya tentang vendor seperti Microsoft dan IBM yang melarang penjualan pengenalan wajah kepada penegak hukum, Townsend mengatakan SAS tidak menarik "garis keras" seperti itu karena konteks di balik penggunaan AI itu penting. Misalnya, adopsi teknologi pengenalan wajah dalam memfasilitasi otentikasi paspor memberikan hasil yang positif.
Dia menambahkan bahwa proses internal yang dibuat SAS membantu memastikan implementasi yang melanggar prinsip-prinsip penggunaan AI yang bertanggung jawab akan ditandai.
Menurut Damien Pang, wakil chief fintech officer MAS dan direktur eksekutif untuk arsitektur data dan teknologi, konsorsium Veritas telah berkembang sejak diluncurkan untuk terdiri dari lebih dari 30 entitas. Ini, katanya, mencerminkan minat yang kuat dari industri untuk mendorong kepercayaan dalam penggunaan AI melalui prinsip-prinsip FEAT.
Ditanya tentang tingkat pengambilan untuk toolkit tersebut, Pang mengatakan MAS tidak melacak jumlah unduhan karena ini belum tentu merupakan indikasi yang akurat dari penggunaan aktual.
Dia mendesak organisasi untuk memahami apa yang diperlukan untuk menggunakan AI secara bertanggung jawab. Menambahkan bahwa prinsip-prinsip FEAT akan membantu membangun kepercayaan konsumen, dia mengatakan ini sangat penting untuk mendorong adopsi layanan digital dan memungkinkan bisnis memanfaatkan data untuk melayani pelanggan dengan lebih baik.