Kesalahan klasifikasi gambar AI dapat merusak hidup Anda. Inilah salah satu cara untuk menguranginya

Algoritme klasifikasi gambar terkenal rawan kesalahan, namun metode baru untuk menemukan kesalahan dalam kode AI yang tidak dapat dipahami dapat membantu memecahkan masalah tersebut.

Bayangkan betapa cepatnya internet menjadi saluran utama bagi sejumlah besar aktivitas manusia, mulai dari perdagangan hingga komunikasi dan kolaborasi, dan Anda mulai mendapatkan gambaran tentang peran transformatif yang akan dimainkan oleh kecerdasan buatan (AI) dalam kehidupan kita di masa depan. dasawarsa.

Sama seperti internet, AI dan sub-jenis intinya -- pembelajaran mesin, pemrosesan bahasa alami, pengenalan wajah, dan pembelajaran mendalam -- diperkirakan akan mengubah masyarakat manusia dengan melibatkan dirinya dalam hampir setiap aspek kehidupan sehari-hari.

Bahkan saat ini, banyak sistem dan layanan TI yang menawarkan solusi berbasis AI untuk permasalahan bisnis. Keberadaan di mana-mana ini kemudian menimbulkan pertanyaan logis, apa yang terjadi jika AI gagal?

Yang memprihatinkan, 'halusinasi' AI -- di mana teknologi menciptakan jawaban atas pertanyaan yang tidak diketahuinya -- sudah menjadi hal yang lumrah.

Kami juga telah melihat algoritme menunjukkan dan memperkuat bias gender, ras, etnis, dan kelas yang sudah tertanam dalam masyarakat.

Masalah-masalah seperti ini muncul karena sebagian besar data yang mendukung model AI diambil dari konten di internet, yang sebagian besar dihasilkan oleh struktur kekuasaan yang dominan.

Jadi, untuk memastikan algoritme AI berfungsi dengan baik dan tidak menimbulkan kesalahan yang memalukan, model yang mendukung teknologi baru harus 'dilatih' dengan serangkaian data -- dan dalam kasus di bawah ini, gambar -- yang bertindak sebagai tolok ukur yang tidak memihak.

Meningkatkan AI dengan cara yang benar

Misalnya, sistem peringatan dini California memiliki algoritma pengenalan gambar yang terhubung ke lebih dari seribu kamera di seluruh negara bagian. Model dilatih untuk mengidentifikasi kepulan asap dari awan.

Grafik Reeb Gleich menerjemahkan vektor tertanam yang tidak dapat dikenali dari kumpulan data algoritme menjadi titik-titik berwarna, sehingga kesalahan klasifikasi dapat diamati.

Mulai dari tumor di paru-paru hingga mobil yang melaju di jalan raya, perangkat lunak pengenalan gambar yang dirancang untuk menemukan indikator utama dari kebisingan sedang diterapkan dalam skenario yang sangat penting dan menyelamatkan jiwa.

Meskipun potensi dampak positif dari sistem semacam ini cukup besar, begitu pula risiko dari AI yang salah. Jadi, bagaimana Anda memastikan bahwa sistem pengenalan gambar AI tidak membantu menghancurkan masyarakat seperti yang kita ketahui?

Memiliki 'rangkaian pelatihan' gambar yang memberikan tolok ukur yang baik adalah penting. Pelatihan ini mencakup memastikan informasi pada setiap piksel, dan bagaimana piksel tersebut diberi tag dan diklasifikasikan dalam suatu kategori, dilakukan dengan presisi sempurna.

Dengan cara ini, ketika algoritme mencoba mencari tahu kategori mana yang termasuk dalam gambar tertentu, algoritme dapat melakukannya dengan merujuk pada informasi pada gambar di set pelatihan.

Namun, tidak peduli seberapa baik rangkaian pelatihan dirancang, suatu algoritme terkadang akan menghadapi konten asing dan terhenti.

Terlebih lagi, mencoba mencari tahu di mana kebuntuan terjadi dalam kumpulan data adalah seperti mencoba menemukan jarum, bukan hanya tumpukan jerami, tapi seluruh gudang, mengingat potensi triliunan unit informasi yang membentuk kumpulan data.

Kabar baiknya adalah David Gleich, ilmuwan dan profesor ilmu komputer di Universitas Purdue, serta sesama ilmuwan Tamal Dey dan Meng Liu, telah menemukan solusi baru untuk masalah yang sulit diselesaikan ini.

“Alat yang kami kembangkan membantu Anda menemukan tempat di mana jaringan berkata, 'Hei, saya memerlukan lebih banyak informasi untuk melakukan apa yang Anda minta,'” kata Gleich. “Saya akan menyarankan orang-orang untuk menggunakan alat ini pada skenario pengambilan keputusan jaringan saraf atau tugas prediksi gambar yang berisiko tinggi.”

Apa yang ada di balik terpal?

Ketika Gleich melakukan penelitiannya, dia menemui masalah dengan databasenya. Basis data tersebut mengacaukan sinar-X, urutan gen, dan pakaian dengan hal-hal lain.

Dia mengatakan bahwa salah satu jaringan saraf memiliki kebiasaan kronis memberi label pada mobil sebagai pemutar kaset hanya karena foto-foto tersebut diambil dari daftar penjualan online yang berisi peralatan stereo mobil.

Masalahnya berasal dari bagaimana algoritma menempatkan gambar pada kategori yang tepat, yang bergantung pada menghasilkan sekelompok angka yang disebut 'vektor tertanam' yang dihasilkan berdasarkan informasi pada gambar.

AI membandingkan vektor yang tertanam dalam 'set pelatihan' dengan gambar kumpulan data lainnya. Gambar ditempatkan ke dalam kategori dengan probabilitas kecocokan yang tinggi.

Sayangnya, vektor yang disematkan seringkali tidak ada artinya. Jadi, ketika ada ketidakcocokan atau kesalahan, tidak ada cara untuk mendalami lapisan algoritme yang tidak dapat dikenali dan menemukan kesalahan yang mengganggu tersebut.

Untuk mengatasi rintangan ini, Gleich dan timnya menerapkan rencana yang cerdik. Mereka mengambil jalan memutar cepat ke bidang topografi, yang pada dasarnya merupakan tempat asal usul teknologi seperti Google Maps.

Mereka memutuskan untuk memetakan hubungan vektor pada grafik Reeb, 'deskriptor bentuk kompak', dan solusi yang telah digunakan dalam analisis bentuk selama 75 tahun.

Kumpulan data tersebut kemudian diubah menjadi titik-titik berkode warna yang mewakili vektor-vektor yang termasuk dalam satu kategori atau lainnya. Titik-titik yang berkerumun rapat dengan warna yang sama menunjukkan kategori yang sama.

Titik-titik dengan warna berbeda yang saling tumpang tindih secara instan menunjukkan bahwa ada sesuatu yang salah dan -- yang paling kritis -- di mana masalahnya dapat ditemukan.

Dan begitu saja, bagian dalam algoritma yang biasanya tidak dapat dipahami beserta titik masalahnya tiba-tiba menjadi jelas seperti siang hari.

“Apa yang kami lakukan adalah mengambil kumpulan informasi rumit yang keluar dari jaringan dan memberi orang 'masukan' ke dalam cara jaringan melihat data pada tingkat makroskopis,” kata Gleich.

"Peta Reeb mewakili hal-hal penting -- kelompok besar dan bagaimana mereka berhubungan satu sama lain -- dan itu memungkinkan untuk melihat kesalahannya."

Gleich dan rekan-rekannya telah melangkah lebih jauh dengan membuat alat klasifikasi gambar AI mereka tersedia untuk umum. Kode untuk alat ini tersedia di GitHub, begitu pula demonstrasi kasus penggunaan.

Kini, siapa pun mempunyai kesempatan untuk melihat hubungan antar gambar dalam kumpulan data AI, yang oleh para peneliti disebut sebagai "pandangan luas".

Orang-orang dapat menggunakan alat ini untuk menyelami dan menemukan sumber masalahnya, yang sangat dibutuhkan oleh jaringan saraf agar berfungsi dengan baik, mencegah bias, dan menjaga kita tetap aman.