Etika AI harus dikodekan seperti keamanan berdasarkan desain
Dengan keamanan berdasarkan desain yang penting untuk memastikan sistem TI dibangun agar kuat dari pengembangan, pendekatan yang sama harus diterapkan pada alat kecerdasan buatan sehingga dapat digunakan secara bertanggung jawab dan tanpa bias, kata arsitek utama etika AI Salesforce.com.
Bisnis perlu memikirkan etika dari nol ketika mereka mulai mengonseptualisasikan dan mengembangkan produk kecerdasan buatan (AI). Ini akan membantu memastikan alat AI dapat diimplementasikan secara bertanggung jawab dan tanpa bias.
Pendekatan yang sama sudah dianggap penting untuk produk keamanan siber, di mana prinsip pengembangan "keamanan berdasarkan desain" akan mendorong kebutuhan untuk menilai risiko dan hardcode keamanan sejak awal, sehingga tambal sulam sedikit demi sedikit dan retrofit yang mahal dapat dihindari pada tahap selanjutnya.
Pola pikir ini sekarang harus diterapkan pada pengembangan produk AI, kata Kathy Baxter, arsitek utama untuk praktik AI etis Salesforce.com, yang menggarisbawahi perlunya organisasi untuk memenuhi standar pengembangan dasar dengan etika AI.
Dia mencatat bahwa ada banyak pelajaran yang bisa dipetik dari industri keamanan siber, yang telah berkembang dalam beberapa dekade terakhir sejak malware pertama muncul pada 1980-an. Untuk sektor yang bahkan tidak ada sebelumnya, keamanan siber sejak itu telah mengubah cara perusahaan melindungi sistem mereka, dengan penekanan pada identifikasi risiko sejak awal dan mengembangkan standar dan peraturan dasar yang harus diterapkan.
Akibatnya, sebagian besar organisasi saat ini akan menerapkan standar keamanan dasar yang harus dipatuhi oleh semua pemangku kepentingan termasuk karyawan, kata Baxter dalam sebuah wawancara dengan ZDNet. Semua karyawan baru di Salesforce.com, misalnya, harus menjalani proses orientasi di mana perusahaan menguraikan apa yang diharapkan dari karyawan dalam hal praktik keamanan siber, seperti mengadopsi kata sandi yang kuat dan menggunakan VPN.
Hal yang sama berlaku untuk etika, katanya, menambahkan bahwa ada tim internal yang didedikasikan untuk mendorong ini di dalam perusahaan.
Ada juga sumber daya untuk membantu karyawan menilai apakah suatu tugas atau layanan harus dilakukan berdasarkan pedoman etika perusahaan dan memahami di mana garis merah berada, kata Baxter. Einstein Vision yang didukung AI Salesforce.com, misalnya, tidak akan pernah dapat digunakan untuk pengenalan wajah, sehingga setiap anggota penjualan yang tidak menyadari hal ini dan mencoba menjual produk untuk penyebaran tersebut akan melakukannya dengan melanggar kebijakan perusahaan.
Dan sama seperti praktik keamanan siber yang ditinjau dan direvisi secara teratur untuk mengimbangi lanskap ancaman yang berubah, hal yang sama harus diterapkan pada kebijakan yang terkait dengan etika AI, katanya.
Ini sangat penting karena masyarakat dan budaya berubah dari waktu ke waktu, di mana nilai-nilai yang pernah dianggap relevan 10 tahun yang lalu mungkin tidak lagi selaras dengan pandangan yang dipegang oleh penduduk suatu negara saat ini, katanya. Produk AI diperlukan untuk mencerminkan hal ini.
Data menjadi penghalang utama untuk mengatasi bias AI
Meskipun kebijakan dapat mengurangi beberapa risiko bias dalam AI, tetap ada tantangan lain - khususnya, akses ke data. Kurangnya volume atau variasi dapat mengakibatkan representasi industri atau segmen yang tidak akurat.
Ini adalah tantangan yang signifikan di sektor perawatan kesehatan, terutama di negara-negara seperti AS di mana tidak ada obat-obatan yang disosialisasikan atau sistem perawatan kesehatan yang dikelola pemerintah, kata Baxter. Ketika model AI dilatih oleh kumpulan data terbatas berdasarkan subset populasi yang sempit, hal itu dapat memengaruhi penyampaian layanan kesehatan dan kemampuan untuk mendeteksi penyakit untuk kelompok orang tertentu.
Salesforce.com, yang tidak dapat mengakses atau menggunakan data pelanggannya untuk melatih model AI-nya sendiri, akan menutup kesenjangan dengan membeli dari sumber eksternal seperti data linguistik, yang digunakan untuk melatih chatbot-nya, serta memanfaatkan data sintetis.
Ditanya tentang peran yang dimainkan regulator dalam mendorong etika AI, Baxter mengatakan mewajibkan penggunaan metrik tertentu bisa berbahaya karena masih ada banyak pertanyaan seputar definisi "AI yang dapat dijelaskan" dan bagaimana hal itu harus diimplementasikan.
Eksekutif Salesforce.com adalah anggota dewan penasihat Singapura tentang penggunaan etis AI dan data, yang memberi saran kepada pemerintah tentang kebijakan dan tata kelola terkait penggunaan teknologi berbasis data di sektor swasta.
Menunjuk pada pengalamannya di dewan, Baxter mengatakan anggotanya menyadari dengan cepat bahwa mendefinisikan "keadilan" saja rumit, dengan sekitar dua lusin definisi statistik. Selain itu, apa yang adil untuk satu kelompok terkadang pasti akan kurang adil bagi kelompok lain, katanya.
Mendefinisikan "penjelasan" juga rumit di mana bahkan ahli pembelajaran mesin dapat salah menafsirkan cara kerja model berdasarkan penjelasan yang telah ditentukan sebelumnya, katanya. Kebijakan atau peraturan yang ditetapkan harus mudah dipahami oleh siapa saja yang menggunakan data bertenaga AI dan di semua sektor, seperti agen lapangan atau pekerja sosial.
Menyadari bahwa masalah seperti itu kompleks, Baxter mengatakan dewan Singapura memutuskan akan lebih efektif untuk menetapkan kerangka kerja dan pedoman, termasuk toolkit, untuk membantu pengadopsi AI memahami dampaknya dan transparan dengan penggunaan AI mereka.
Singapura bulan lalu merilis sebuah toolkit, yang disebut A.I. Verify, yang katanya akan memungkinkan bisnis untuk menunjukkan penggunaan AI yang "objektif dan dapat diverifikasi". Langkah ini merupakan bagian dari upaya pemerintah untuk mendorong transparansi dalam penerapan AI melalui pemeriksaan teknis dan proses.
Baxter mendesak perlunya menghilangkan kesalahpahaman bahwa sistem AI secara default adil hanya karena mereka adalah mesin dan, karenanya, tanpa bias. Organisasi dan pemerintah harus menginvestasikan upaya untuk memastikan manfaat AI didistribusikan secara merata dan penerapannya memenuhi kriteria tertentu dari AI yang bertanggung jawab, katanya.