Adopsi massal alat AI generatif menggagalkan salah satu faktor yang sangat penting, kata MIT

Pesatnya kemajuan AI menciptakan 'AI bayangan' - sehingga semakin sulit untuk menggunakan AI secara bertanggung jawab, sebuah studi yang dilakukan oleh MIT Sloan Management Review dan BCG memperingatkan.

Platform dan alat kecerdasan buatan (AI) baru bermunculan setiap hari untuk membantu pengembang, ilmuwan data, dan analis bisnis. Namun, pertumbuhan pesat teknologi baru ini juga meningkatkan kompleksitas konstelasi AI melebihi kapasitas tanggung jawab dan akuntabilitas dalam sistem AI.

Hal ini merupakan kesimpulan dari survei terbaru terhadap 1.240 eksekutif yang diterbitkan oleh MIT Sloan Management Review dan Boston Consulting Group (MIT SMR dan BCG), yang mengamati kemajuan inisiatif AI yang bertanggung jawab, dan penerapan alat AI yang dibuat secara internal dan bersumber dari eksternal - apa yang para peneliti sebut sebagai "bayangan AI".

Janji AI mempunyai konsekuensi, menurut penulis studi tersebut, Elizabeth Renieris (Institut Etika AI di Oxford), David Kiron (MIT SMR), dan Steven Mills (BCG): “Misalnya, AI generatif terbukti sulit digunakan, menimbulkan dampak yang tidak dapat diprediksi. risiko bagi organisasi yang tidak siap menghadapi berbagai kasus penggunaannya."

Banyak perusahaan “terkejut dengan penyebaran penggunaan AI bayangan di seluruh perusahaan,” Renieris dan rekan penulisnya mengamati. Terlebih lagi, pesatnya kemajuan AI "mempersulit penggunaan AI secara bertanggung jawab dan memberikan tekanan pada program AI yang bertanggung jawab untuk mengikutinya."

Mereka memperingatkan bahwa risiko yang ditimbulkan oleh shadow AI juga semakin meningkat. Misalnya, meningkatnya ketergantungan perusahaan pada pasokan alat AI pihak ketiga yang terus meningkat, seiring dengan pesatnya adopsi AI generatif - algoritme (seperti ChatGPT, Dall-E 2, dan Midjourney) yang menggunakan data pelatihan untuk menghasilkan data yang realistis atau tampak nyata. teks, gambar, atau audio faktual - memaparkan mereka pada risiko komersial, hukum, dan reputasi baru yang sulit dilacak.

Para peneliti mengacu pada pentingnya AI yang bertanggung jawab, yang mereka definisikan sebagai "kerangka kerja dengan prinsip, kebijakan, alat, dan proses untuk memastikan bahwa sistem AI dikembangkan dan dioperasikan demi kebaikan individu dan masyarakat sambil tetap mencapai dampak bisnis yang transformatif." ."

Kesulitan lain berasal dari fakta bahwa sejumlah perusahaan “tampaknya mengurangi sumber daya internal yang dikhususkan untuk AI yang bertanggung jawab sebagai bagian dari tren PHK yang lebih luas di industri,” para peneliti mengingatkan. “Pengurangan investasi AI yang bertanggung jawab ini terjadi, bisa dibilang, pada saat investasi tersebut paling dibutuhkan.”

Misalnya, penggunaan chatbot ChatGPT yang meluas oleh karyawan telah mengejutkan banyak organisasi, dan dapat menimbulkan implikasi keamanan. Para peneliti mengatakan kerangka kerja AI yang bertanggung jawab belum dibuat untuk "menghadapi risiko yang tiba-tiba dan tak terbayangkan yang ditimbulkan oleh alat AI generatif".

Penelitian menunjukkan 78% organisasi melaporkan mengakses, membeli, melisensikan, atau menggunakan alat AI pihak ketiga, termasuk API komersial, model terlatih, dan data. Lebih dari separuh (53%) hanya bergantung pada alat AI pihak ketiga dan tidak memiliki teknologi AI yang dirancang atau dikembangkan secara internal.

Program AI yang bertanggung jawab “harus mencakup alat AI yang dibuat secara internal dan pihak ketiga,” desak Renieris dan rekan penulisnya. “Prinsip-prinsip etika yang sama harus diterapkan, tidak peduli dari mana sistem AI itu berasal. Pada akhirnya, jika terjadi kesalahan, tidak masalah bagi orang yang terkena dampak negatif jika alat tersebut dibuat atau dibeli.”

Para penulis mengingatkan bahwa meskipun “tidak ada obat mujarab untuk memitigasi risiko AI pihak ketiga, atau jenis risiko AI apa pun,” mereka mendesak adanya pendekatan multi-cabang untuk memastikan AI yang bertanggung jawab di lingkungan yang sangat terbuka saat ini.

Pendekatan tersebut dapat mencakup hal-hal berikut:

• Evaluasi praktik AI yang bertanggung jawab dari vendor
• Bahasa kontrak yang mewajibkan kepatuhan terhadap prinsip-prinsip AI yang bertanggung jawab
• Pra-sertifikasi dan audit vendor (jika tersedia)
• Tinjauan tingkat produk internal (di mana alat pihak ketiga diintegrasikan ke dalam produk atau layanan)
• Kepatuhan terhadap persyaratan peraturan atau standar industri yang relevan
• Penyertaan serangkaian kebijakan dan prosedur yang komprehensif, seperti pedoman pengembangan AI yang etis, kerangka penilaian risiko, serta protokol pemantauan dan audit

Para peneliti memperingatkan bahwa momok peraturan perundang-undangan dan mandat pemerintah mungkin menjadikan tindakan seperti itu suatu keharusan seiring dengan diperkenalkannya sistem AI.