Terburu-buru menuju adopsi AI generatif? Mengapa skeptisisme adalah perlindungan terbaik Anda
55% bisnis sedang melakukan uji coba atau dalam mode produksi dengan alat AI generatif, menurut studi baru Gartner.
Dengan semakin banyaknya organisasi yang mulai mengadopsi kecerdasan buatan generatif (AI), penting bagi mereka untuk melakukan hal tersebut sembari memitigasi potensi risiko dan dengan tingkat skeptisisme tertentu.
Saat ini, 45% bisnis saat ini sedang menguji coba AI generatif, sementara 10% sudah memiliki alat tersebut dalam produksi, ungkap sebuah studi Gartner yang dirilis pada hari Selasa. Survei tersebut menyurvei 1.419 eksekutif selama webinar bulan lalu untuk membahas biaya bisnis dan risiko AI generatif.
Angka-angka ini jauh lebih tinggi dibandingkan jajak pendapat sebelumnya yang dilakukan Gartner pada bulan Maret dan April tahun ini, di mana 15% melaporkan bahwa mereka sedang menguji coba teknologi tersebut dan hanya 4% yang memiliki alat-alat tersebut dalam produksi.
Dalam survei terbaru, sekitar 78% mengatakan manfaat AI generatif lebih besar daripada risikonya, lebih tinggi dibandingkan 68% yang berpendapat serupa pada jajak pendapat sebelumnya.
Gartner mencatat bahwa 45% perusahaan meningkatkan investasi generatif AI mereka di berbagai fungsi, dan 22% melakukan hal serupa di setidaknya tiga fungsi berbeda. Investasi atau penerapan AI generatif dalam pengembangan perangkat lunak mencatat tingkat tertinggi, yaitu sebesar 21%, diikuti oleh pemasaran dan layanan pelanggan masing-masing sebesar 19% dan 16%.
“Organisasi tidak hanya berbicara tentang AI generatif - mereka menginvestasikan waktu, uang, dan sumber daya untuk memajukannya dan mendorong hasil bisnis,” kata Frances Karamouzis, kepala penelitian dan analis terkemuka grup Gartner, mencatat bahwa 55% organisasi telah meningkatkan investasi mereka pada AI generatif sejak kemunculannya di domain publik 10 bulan lalu.
“Para eksekutif mengambil sikap yang lebih berani terhadap AI generatif karena mereka melihat manfaat besar AI generatif dalam mendorong inovasi, optimalisasi, dan disrupsi,” kata Karamouzis. “Para pemimpin bisnis dan TI memahami bahwa pendekatan 'tunggu dan lihat' lebih berisiko dibandingkan investasi.”
Ketika keraguan itu diperlukan
Namun, jika dunia usaha memutuskan untuk mengambil langkah maju, mereka harus mempunyai kerangka kerja yang siap untuk memastikan bahwa mereka mengadopsi AI generatif secara bertanggung jawab dan etis.
Beberapa tingkat skeptisisme juga harus diterapkan, termasuk terhadap alat yang digunakan untuk mendeteksi kapan AI telah diterapkan, kata Kathy Baxter, arsitek utama AI yang bertanggung jawab di Salesforce.com.
Baxter mencatat bahwa teknologi ini telah menjadi demokratis, memungkinkan siapa pun untuk menggunakan AI generatif tanpa banyak pegangan tangan. Namun meskipun banyak organisasi telah melakukan pekerjaan yang baik dalam upaya menyingkirkan konten beracun dan terus berinvestasi dalam upaya tersebut, masih belum banyak pemahaman mengenai “seberapa besar perhatian” yang harus diambil sehubungan dengan AI. konten yang dihasilkan.
Pengguna menganggap semua konten tersebut sebagai fakta meskipun itu dibuat-buat, kata Baxter dalam sebuah wawancara dengan ZDNET, sambil mencatat bahwa bahkan alat pendeteksi AI pun bisa salah dalam beberapa kasus, namun mungkin dianggap selalu akurat. Persepsi seperti ini mungkin berdampak buruk ketika AI generatif dan alat-alat terkait digunakan di beberapa bidang seperti pendidikan, di mana siswa mungkin dituduh menggunakan AI dalam pekerjaan mereka.
Mengekspresikan kekhawatirannya atas risiko tersebut, dia mendesak setiap individu atau organisasi yang menggunakan AI generatif untuk melakukannya dengan “skeptisisme yang cukup”.
Seperti orang lain di industri ini, dia juga menyuarakan perlunya pagar pembatas yang memadai untuk memastikan AI akurat dan aman. Ia menambahkan, hal ini juga akan membantu jika penerapannya dilakukan bersamaan dengan alat mitigasi risiko. Hal ini dapat mencakup fitur deteksi kesalahan dan pelaporan, serta mekanisme untuk mengumpulkan dan memberikan umpan balik manusia.
Membumikan AI juga sangat penting, katanya, sambil menekankan pentingnya data yang digunakan untuk melatih model AI. Namun, tidak banyak organisasi yang memiliki kebersihan data yang baik, katanya.
Faktanya, hanya 4% pemimpin bisnis dan teknologi yang menyatakan bahwa data mereka dapat diakses sepenuhnya, menurut Laporan Indikator AI Global C-Suite yang dirilis bulan lalu. Ditugaskan oleh Workday, penelitian ini mensurvei 2.355 eksekutif di Asia-Pasifik, Jepang, Amerika Utara, dan EMEA, yang memimpin berbagai fungsi termasuk CEO, CIO, dan CFO.
Survei tersebut menemukan bahwa lebih dari separuh responden, yaitu 59%, menggambarkan data mereka agak atau sepenuhnya tertutup.
Meskipun 98% percaya bahwa penerapan AI dan pembelajaran mesin akan memberikan manfaat langsung bagi bisnis, 49% mengatakan organisasi mereka tidak siap melakukannya karena kurangnya alat, keterampilan, dan pengetahuan.
Sekitar 43% menyatakan kekhawatirannya mengenai AI dan pembelajaran mesin yang dapat dipercaya, dan 67% CEO menyatakan potensi kesalahan sebagai risiko utama penerapan AI dan pembelajaran mesin.
Peningkatan transparansi diperlukan untuk membangun kepercayaan, namun data yang tertutup mengaburkan kemampuan pemimpin untuk mengambil tindakan. Dari organisasi yang disurvei, 59% melaporkan bahwa data mereka agak atau sepenuhnya tertutup. Hanya 4% dari seluruh responden yang mengatakan data mereka dapat diakses sepenuhnya.
CTO Workday Jim Stratton mengatakan: "Meskipun ada ketidakpastian, para pemimpin optimis bahwa AI dan pembelajaran mesin akan meningkatkan tenaga kerja mereka dan mendorong produktivitas. Kepercayaan sangat penting untuk mendapatkan manfaat ini, dan membangun kepercayaan memerlukan landasan data yang tepat dan komitmen terhadap tata kelola."
Stratton mendesak organisasi untuk memprioritaskan kualitas data dan transparansi ketika menerapkan AI, agar dapat memperoleh manfaat dari teknologi ini.