Saat menerapkan AI, latih manajer Anda terlebih dahulu

Dunia usaha terburu-buru menerapkan GenAI sebelum membangun sistem tata kelola yang memadai, yang dapat mengakibatkan masalah serius terkait kualitas dan kepatuhan.

Memasukkan kecerdasan buatan ke dalam suatu organisasi memerlukan lebih dari sekadar pengetahuan tentang AI -- ini hanyalah langkah pertama. Survei terbaru menunjukkan sebagian besar organisasi dan departemen TI mereka -- terutama para manajer dan eksekutif yang mengendalikan sumber daya untuk memajukan berbagai hal -- belum siap menangani AI. Ditambah lagi, keterampilan, alat, dan solusi yang diperlukan belum tersedia.

Bahkan pimpinan departemen TI belum memahami implikasi AI, berdasarkan survei terhadap 1.600 pengambil keputusan TI yang dirilis oleh SAS. Sembilan dari 10 pengambil keputusan teknologi senior (93%) mengakui bahwa mereka tidak sepenuhnya memahami AI generatif (GenAI) atau potensi dampaknya terhadap proses bisnis.

Para eksekutif sangat perlu mendapatkan informasi terbaru. Kurang dari separuh (45%) CIO yang disurvei dan lebih dari sepertiga (36%) CTO menganggap diri mereka “sangat akrab” dengan adopsi GenAI di organisasi mereka. Yang lebih parah lagi, hanya 13% chief digital officer yang mengakui bahwa mereka sangat mengenal AI.

Keadaan menjadi lebih buruk: Hanya 4% pimpinan TI atau sistem informasi yang mengaku sangat familiar dengan AI, dan hanya 2% manajer atau direktur TI.

Secara keseluruhan, hanya 7% yang memberikan pelatihan tingkat tinggi mengenai tata kelola dan pemantauan AI secara keseluruhan, dan 15% lainnya memberikan bantuan serupa untuk AI generatif. Hal ini penting karena 75% responden mengkhawatirkan privasi dan keamanan data saat GenAI digunakan di organisasi mereka.

Artinya, mungkin diperlukan waktu, serta banyak pendidikan dan analisis, untuk mengatasi masalah yang dapat menggagalkan penerapan AI. Misalnya, hanya 5% yang memiliki sistem yang andal untuk mengukur bias dan risiko privasi dalam model bahasa besar. Sebanyak 42% lainnya sedang mempertimbangkan untuk mengembangkan kemampuan internal untuk mendeteksi risiko privasi, dan 32% sedang mempertimbangkan untuk mengembangkan kemampuan internal untuk mendeteksi bias.

Hanya 29% yang memiliki pemantauan otomatis berkelanjutan terhadap penerapan AI generatif mereka. Hanya 25% yang melakukan audit manual rutin terhadap keluaran AI mereka.

“Investasi GenAI yang ideal menawarkan peluang yang jelas untuk efisiensi dan pengalaman pelanggan yang lebih baik, namun banyak organisasi melaporkan kesenjangan dalam pemikiran strategis yang memengaruhi keberhasilan peluncurannya,” kata salah satu penulis laporan tersebut. “Penelitian kami menunjukkan bahwa dunia usaha terburu-buru menerapkan GenAI sebelum membangun sistem tata kelola yang memadai, yang nantinya dapat menimbulkan masalah serius terkait kualitas dan kepatuhan.”
Integrasi AI ke dalam proses dan sistem yang ada juga merupakan sumber masalah. “Banyak perusahaan kesulitan untuk mengintegrasikan teknologi dengan tugas dan alat yang mereka miliki,” kata penulis survei tersebut. Ditambah lagi, hampir separuh (47%) pengambil keputusan melaporkan bahwa mereka tidak memiliki alat yang tepat untuk menerapkan GenAI.

Berikut adalah masalah utama yang dialami organisasi yang menggunakan AI:

• 48% melaporkan bahwa mereka mengalami masalah dalam memanfaatkan kumpulan data publik dan kepemilikan secara efektif.
• 45% melaporkan tidak adanya alat yang sesuai.
• 42% mengindikasikan bahwa mereka mengalami tantangan dalam mentransisikan AI Generatif dari fase konseptual ke penggunaan praktis.
• 39% mengatakan mereka mengalami masalah kompatibilitas dengan sistem saat ini.

Survei menunjukkan bahwa keahlian AI internal juga sangat dibutuhkan. Separuh dari organisasi (51%) merasa khawatir bahwa mereka tidak memiliki keterampilan internal untuk menggunakan teknologi secara efektif. Sekitar empat dari 10 responden (39%) mengatakan bahwa mereka menganggap kurangnya keahlian internal sebagai hambatan dalam penerapan GenAI.

Penulis survei menunjukkan mandat berikut yang terkait dengan keberhasilan proyek AI:

• Integrasi AI: Kebutuhan untuk "mengintegrasikan model GenAI secara mulus ke dalam alur kerja pengambilan keputusan, aplikasi AI dan pembelajaran mesin, serta proses bisnis yang ada dengan menggunakan alat alur pengambilan keputusan seperti pengambilan keputusan cerdas."
• Perlindungan data: "Pastikan privasi dan keamanan pengguna dengan langkah-langkah kualitas data yang kuat -- termasuk pembuatan data sintetis, minimalisasi data, anonimisasi, dan enkripsi -- yang memberikan perlindungan informasi sensitif."
• Hasil yang dapat dipercaya dan dapat dijelaskan: "Pakar data dapat menerapkan teknik pemrosesan bahasa alami untuk melakukan pra-pemrosesan data, menjelaskan keluaran yang dihasilkan dalam istilah yang mudah dimengerti, meminimalkan halusinasi, dan mengurangi biaya token."
• Peningkatan tata kelola: "Gunakan alur kerja bawaan yang memvalidasi seluruh siklus hidup LLM, mulai dari kepatuhan terhadap peraturan hingga model manajemen risiko."

Memprediksi atau menghitung laba atas investasi adalah tugas lain yang harus dipenuhi. Lebih dari sepertiga (36%) pengambil keputusan TI memperkirakan akan kesulitan untuk membuktikan bahwa GenAI menawarkan ROI yang kuat atau merasa hal ini sulit untuk dibuktikan, menurut survei. Hampir separuh (47%) menghadapi tantangan dalam transisi dari penggunaan GenAI dari konsep ke praktik. Empat dari 10 organisasi (39%) tidak memiliki kebijakan penggunaan GenAI.