Tim merah Microsoft telah memantau AI sejak 2018. Berikut lima wawasan penting
Microsoft mengambil langkah-langkah untuk memastikan keamanan AI dalam modelnya dan ingin memberi contoh bagi orang lain.
Dalam enam bulan terakhir, dampak positif dari kecerdasan buatan semakin banyak disoroti, begitu pula risikonya.
Yang terbaik, AI telah memungkinkan orang menyelesaikan tugas sehari-hari dengan lebih mudah dan bahkan menciptakan terobosan di berbagai industri yang dapat merevolusi cara kerja.
Namun dalam kondisi terburuknya, AI dapat menghasilkan informasi yang salah, menghasilkan konten yang berbahaya atau diskriminatif, serta menimbulkan risiko keamanan dan privasi. Oleh karena itu, sangat penting untuk melakukan pengujian yang akurat sebelum model dirilis ke publik, dan Microsoft telah melakukan hal tersebut selama lima tahun hingga kini.
Juga: Microsoft memperluas Bing AI ke lebih banyak browser - namun ada kendalanya
Sebelum booming ChatGPT dimulai, AI sudah menjadi teknologi baru yang berdampak, dan sebagai hasilnya, Microsoft membentuk tim merah AI pada tahun 2018.
Tim merah AI terdiri dari para ahli interdisipliner yang berdedikasi untuk menyelidiki risiko model AI dengan "berpikir seperti penyerang" dan "menyelidiki kegagalan sistem AI," menurut Microsoft.
Hampir lima tahun setelah diluncurkan, Microsoft berbagi praktik dan pembelajaran tim merah untuk memberikan contoh penerapan AI yang bertanggung jawab. Menurut perusahaan, penting untuk menguji model AI baik pada tingkat model dasar maupun tingkat aplikasi. Misalnya, untuk Bing Chat, Microsoft memantau AI pada tingkat GPT-4 dan pengalaman pencarian sebenarnya yang didukung oleh GPT-4.
“Kedua level tersebut memiliki kelebihannya masing-masing: misalnya, tim merah pada model membantu mengidentifikasi di awal proses bagaimana model dapat disalahgunakan, untuk mencakup kemampuan model, dan untuk memahami keterbatasan model,” kata Microsoft.
Perusahaan berbagi lima wawasan utama tentang tim merah AI yang diperoleh perusahaan dari pengalamannya selama lima tahun.
Yang pertama adalah luasnya kerja sama AI merah. Alih-alih sekadar menguji keamanan, tim merah AI adalah payung teknik yang menguji faktor-faktor seperti keadilan dan pembuatan konten berbahaya.
Yang kedua adalah kebutuhan untuk fokus pada kegagalan baik dari pihak yang jahat maupun yang baik hati. Meskipun tim merah biasanya berfokus pada bagaimana pelaku kejahatan akan menggunakan teknologi tersebut, penting juga untuk menguji bagaimana teknologi tersebut dapat menghasilkan konten berbahaya bagi rata-rata pengguna.
“Dalam Bing baru, tim merah AI tidak hanya berfokus pada bagaimana musuh jahat dapat menumbangkan sistem AI melalui teknik dan eksploitasi yang berfokus pada keamanan, tetapi juga pada bagaimana sistem dapat menghasilkan konten bermasalah dan berbahaya ketika pengguna biasa berinteraksi dengan sistem,” kata Microsoft.
Wawasan ketiga adalah bahwa sistem AI terus berkembang dan, oleh karena itu, diperlukan upaya untuk melakukan tim merah pada sistem AI di berbagai tingkatan. Hal ini mengarah pada wawasan keempat: sistem AI generatif yang melakukan tim merah memerlukan banyak upaya.
Juga: ChatGPT mendapatkan banyak pembaruan minggu ini. Inilah yang perlu Anda ketahui
Setiap kali Anda berinteraksi dengan sistem AI generatif, kemungkinan besar Anda akan mendapatkan keluaran yang berbeda; oleh karena itu, menurut Microsoft, berbagai upaya untuk membentuk tim merah harus dilakukan untuk memastikan bahwa kegagalan sistem tidak diabaikan.
Terakhir, Microsoft mengatakan bahwa mitigasi kegagalan AI memerlukan pertahanan yang mendalam, yang berarti bahwa setelah tim merah mengidentifikasi suatu masalah, diperlukan berbagai mitigasi teknis untuk mengatasi masalah tersebut.
Langkah-langkah seperti yang telah ditetapkan oleh Microsoft akan membantu meredakan kekhawatiran mengenai munculnya sistem AI sekaligus membantu memitigasi risiko yang terkait dengan sistem tersebut.