Alat AI pihak ketiga bertanggung jawab atas 55% kegagalan AI dalam bisnis
AI generatif kini lebih populer dari sebelumnya, namun tidak ada gunanya jika tidak digunakan secara bertanggung jawab.
Bayangkan membuka aplikasi cuaca bertenaga AI dan melihat langit cerah pada ramalan cuaca untuk piknik perusahaan sore itu, hanya untuk akhirnya berdiri di tengah hujan lebat sambil memegang hot dog yang basah. Atau meminta perusahaan Anda menerapkan alat AI untuk dukungan pelanggan, tetapi tidak terintegrasi dengan baik dengan CRM Anda dan kehilangan data pelanggan yang berharga.
Menurut penelitian baru, alat AI pihak ketiga bertanggung jawab atas lebih dari 55% kegagalan terkait AI dalam organisasi. Kegagalan ini dapat mengakibatkan kerusakan reputasi, kerugian finansial, hilangnya kepercayaan konsumen, dan bahkan litigasi. Survei ini dilakukan oleh MIT Sloan Management Review dan Boston Consulting Group dan berfokus pada bagaimana organisasi mengatasi AI yang bertanggung jawab dengan menyoroti konsekuensi nyata jika tidak melakukan hal tersebut.
“Perusahaan belum sepenuhnya menyesuaikan program manajemen risiko pihak ketiga mereka dengan konteks AI atau tantangan dalam menerapkan sistem kompleks secara aman seperti produk AI generatif,” Philip Dawson, kepala kebijakan AI di Armilla AI, mengatakan kepada peneliti MIT. “Banyak yang tidak melakukan penilaian terhadap vendor AI atau produk mereka untuk keamanan siber, sehingga mereka tidak mengetahui risiko penerapan solusi AI pihak ketiga.”
Peluncuran ChatGPT hampir setahun yang lalu memicu ledakan AI generatif dalam teknologi. Tidak lama kemudian perusahaan lain mengikuti OpenAI dan merilis chatbot AI mereka sendiri, termasuk Microsoft Bing dan Google Bard. Popularitas dan kemampuan bot ini juga memunculkan tantangan dan pertanyaan etis.
Ketika popularitas ChatGPT melonjak baik sebagai aplikasi mandiri maupun sebagai API, perusahaan pihak ketiga mulai memanfaatkan kekuatannya dan mengembangkan chatbot AI serupa untuk menghasilkan solusi AI generatif untuk dukungan pelanggan, pembuatan konten, bantuan TI, dan pemeriksaan tata bahasa.
Dari 1.240 responden survei di 87 negara, 78% melaporkan perusahaan mereka menggunakan alat AI pihak ketiga dengan mengakses, membeli, atau melisensikannya. Dari organisasi-organisasi ini, 53% menggunakan alat pihak ketiga secara eksklusif, tanpa teknologi AI internal. Meskipun lebih dari tiga perempat perusahaan yang disurvei menggunakan alat AI pihak ketiga, 55% kegagalan terkait AI berasal dari penggunaan alat tersebut.
Meskipun 78% dari mereka yang disurvei mengandalkan alat AI pihak ketiga, 20% gagal mengevaluasi risiko besar yang ditimbulkannya. Studi tersebut menyimpulkan bahwa AI yang bertanggung jawab (RAI) lebih sulit dicapai ketika tim melibatkan vendor tanpa pengawasan, dan evaluasi yang lebih menyeluruh terhadap alat pihak ketiga diperlukan.
“Dengan klien di industri yang diatur seperti jasa keuangan, kami melihat hubungan yang kuat antara model praktik manajemen risiko yang didasarkan pada semacam peraturan eksternal dan apa yang kami sarankan agar dilakukan orang-orang dari sudut pandang RAI,” menurut Triveni Gandhi, pimpinan AI yang bertanggung jawab untuk perusahaan AI Dataiku.
AI pihak ketiga dapat menjadi bagian integral dari strategi AI organisasi, sehingga masalah tidak dapat dihilangkan dengan menghilangkan teknologi tersebut. Sebaliknya, para peneliti merekomendasikan strategi penilaian risiko menyeluruh, seperti audit vendor, tinjauan internal, dan kepatuhan terhadap standar industri.
Dengan pesatnya perkembangan lingkungan regulasi RAI, para peneliti yakin organisasi harus memprioritaskan AI yang bertanggung jawab, mulai dari departemen regulasi hingga CEO. Organisasi yang memiliki CEO yang terlibat langsung dalam RAI melaporkan 58% lebih banyak manfaat bisnis dibandingkan organisasi yang memiliki CEO yang tidak terlibat langsung dalam RAI.
Penelitian ini juga menemukan bahwa organisasi yang CEO-nya terlibat dalam RAI hampir dua kali lebih besar kemungkinannya untuk berinvestasi di RAI dibandingkan organisasi yang CEO-nya tidak terlibat langsung.