3 risiko terbesar dari AI generatif - dan cara mengatasinya

Semakin banyak perusahaan yang ingin mengeksplorasi AI generatif, namun mereka harus memastikan bahwa mereka dapat mengelola risiko secepatnya.

Terkadang rasanya semua orang di mana pun mencoba-coba kecerdasan buatan generatif (AI). Mulai dari pengembang yang memproduksi kode hingga pemasar yang membuat konten, orang-orang dengan berbagai peran menemukan cara untuk meningkatkan produktivitas mereka dengan teknologi baru.

Ketergesaan dalam memanfaatkan AI membuat analis Gartner yakin lebih dari 80% perusahaan akan menggunakan antarmuka, model, dan perangkat lunak pemrograman aplikasi AI generatif dalam lingkungan produksi pada tahun 2026.

Namun perlu diingat bahwa, meskipun ada kehebohan terkait AI generatif, banyak perusahaan yang tidak mencoba-coba teknologi ini -- setidaknya tidak secara resmi.

AI generatif masih dalam tahap eksplorasi untuk sebagian besar bisnis, dan Gartner melaporkan bahwa kurang dari 5% perusahaan menggunakan teknologi ini dalam produksi

Lily Haake, kepala teknologi dan pencarian eksekutif digital di perekrut Harvey Nash, mengatakan dalam obrolan video dengan ZDNET bahwa pekerjaannya dengan klien menunjukkan bahwa proyek AI besar-besaran tidak ada dalam agenda untuk saat ini.

“Saya melihat uji coba kecil yang sangat mengesankan, seperti klien hukum yang menggunakan AI untuk menghasilkan dokumen guna memindai beban kasus dan membuat orang lebih produktif,” katanya. "Semuanya sangat menarik dan positif. Tapi ini masih dalam skala kecil. Hal itu karena klien saya tampaknya tidak mengeksplorasi AI generatif dalam skala besar sehingga hal ini dapat mengubah seluruh bisnis."

Daripada menggunakan AI untuk mengubah operasi organisasi dan meningkatkan layanan pelanggan, sebagian besar pemimpin digital justru bereksperimen di sisi perusahaan sebelum memikirkan cara menghadirkan layanan generatif baru ke dalam inti perusahaan.

Namun, hanya karena perusahaan belum mewajibkan penggunaan AI generatif, bukan berarti para profesional belum menggunakan teknologi tersebut -- dengan atau tanpa persetujuan atasan.

Penelitian yang dilakukan oleh pakar teknologi O'Reilly menunjukkan bahwa 44% profesional TI telah menggunakan AI dalam pekerjaan pemrograman mereka, dan 34% sedang bereksperimen dengannya. Hampir sepertiga (32%) profesional TI menggunakan AI untuk analisis data, dan 38% sedang bereksperimen dengannya.

Mike Loukides, penulis laporan tersebut, mengatakan O'Reilly terkejut dengan tingkat adopsi anak-anak tersebut.

Meskipun ia menggambarkan pertumbuhan AI generatif sebagai sesuatu yang “eksplosif”, Loukides mengatakan bahwa perusahaan-perusahaan dapat memasuki “musim dingin AI” jika mereka mengabaikan risiko dan bahaya yang timbul karena adopsi teknologi yang terburu-buru.

Hal ini sejalan dengan pendapat Avivah Litan, VP analis terkemuka di Gartner, yang menyatakan bahwa para CIO dan rekan-rekan C-suite mereka tidak boleh hanya berdiam diri dan menunggu.

“Anda perlu mengelola risiko sebelum mereka mengelola Anda,” ujarnya dalam wawancara video tatap muka dengan ZDNET.

Litan mengatakan Gartner menyurvei lebih dari 700 eksekutif tentang risiko AI generatif dalam webinar baru-baru ini dan menemukan bahwa CIO paling mengkhawatirkan privasi data, diikuti oleh halusinasi, dan kemudian keamanan.

Mari kita pertimbangkan masing-masing bidang tersebut satu per satu.

1. Risiko privasi dan perlindungan data

CIO dan manajer senior lainnya yang menerapkan AI generatif versi perusahaan kemungkinan akan mengirimkan data mereka ke lingkungan yang dihosting vendor mereka.

Litan mengakui bahwa pengaturan semacam ini bukanlah hal baru -- organisasi telah mengirimkan data ke cloud dan penyedia perangkat lunak sebagai layanan selama satu dekade atau lebih.

Namun, katanya, para CIO percaya bahwa AI melibatkan berbagai jenis risiko, terutama terkait cara vendor menyimpan dan menggunakan informasi, seperti untuk melatih model bahasa besar mereka sendiri.

Litan mengatakan Gartner telah menyelesaikan analisis mendetail terhadap banyak vendor TI yang menawarkan layanan berkemampuan AI.

“Intinya dari perlindungan data adalah, jika Anda menggunakan model dasar pihak ketiga, yang terpenting adalah kepercayaan, namun Anda tidak dapat memverifikasinya,” katanya. "Jadi, Anda harus percaya bahwa vendor mempunyai praktik keamanan yang baik dan data Anda tidak akan bocor. Dan kita semua tahu kesalahan terjadi di sistem cloud. Jika data rahasia Anda bocor, vendor tidak bertanggung jawab -- kamu akan."

2. Risiko masukan dan keluaran

Selain menilai risiko perlindungan data di seluruh proses eksternal, organisasi juga perlu menyadari cara karyawan menggunakan data dalam aplikasi dan model AI generatif.

Litan mengatakan risiko semacam ini mencakup penggunaan data yang tidak dapat diterima, yang dapat membahayakan proses pengambilan keputusan, termasuk kelonggaran dalam memberikan masukan yang bersifat rahasia, menghasilkan halusinasi yang tidak akurat sebagai keluaran, dan menggunakan kekayaan intelektual dari perusahaan lain.

Ditambah dengan masalah etika dan ketakutan bahwa model dapat menjadi bias, dan para pemimpin bisnis menghadapi gabungan risiko input dan output.

Litan mengatakan para eksekutif yang mengelola penerapan AI generatif harus memastikan orang-orang di seluruh bisnis tidak menganggap remeh hal ini.

“Anda harus memastikan bahwa Anda menggunakan data dan AI generatif dengan cara yang dapat diterima oleh organisasi Anda; Anda tidak memberikan kunci kerajaan Anda, dan bahwa apa yang akan datang diperiksa untuk mengetahui ketidakakuratan dan halusinasi, " dia berkata.

3. Risiko keamanan siber baru

Bisnis menghadapi berbagai risiko keamanan siber sehari-hari, seperti peretas yang mendapatkan akses ke data perusahaan karena kerentanan sistem atau kesalahan karyawan.

Namun, Litan mengatakan AI mewakili vektor ancaman yang berbeda.

“Ini adalah risiko baru,” katanya. "Ada serangan injeksi cepat, serangan basis data vektor, dan peretas bisa mendapatkan akses ke status model dan parameter."

Meskipun potensi risikonya mencakup hilangnya data dan uang, penyerang juga dapat memilih untuk memanipulasi model dan menukar data yang baik dengan data yang buruk.

Litan mengatakan vektor ancaman baru ini berarti bahwa bisnis tidak dapat menghadapi risiko baru hanya dengan menggunakan langkah-langkah lama yang telah teruji.

“Penyerang dapat meracuni modelnya,” katanya. "Anda harus menempatkan keamanan pada model dan ini adalah jenis keamanan yang berbeda. Perlindungan titik akhir tidak akan membantu Anda dalam perlindungan model data."

Apa yang perlu dilakukan bisnis Anda sekarang

Kombinasi risiko dari AI generatif ini mungkin tampak seperti tantangan yang sulit bagi CIO dan eksekutif senior lainnya.

Namun, Litan mengatakan ada solusi baru yang berkembang seiring dengan munculnya risiko dan peluang yang terkait dengan AI generatif.

“Anda tidak perlu duduk di sana dan panik,” katanya.

“Ada pasar baru yang sedang berkembang. Seperti yang bisa Anda bayangkan, ketika ada masalah, ada pengusaha yang ingin menghasilkan uang dari masalah tersebut.”

Kabar baiknya adalah solusi yang bisa diterapkan sedang dalam proses. Dan sementara pasar teknologi mulai tenang, Litan mengatakan para pemimpin bisnis harus bersiap-siap.

"Saran utama yang kami berikan kepada CIO adalah, "Terorganisirlah, lalu tentukan kebijakan penggunaan yang dapat diterima. Pastikan data Anda diklasifikasikan dan Anda memiliki manajemen akses." katanya.

"Siapkan sistem di mana pengguna dapat mengirimkan permintaan aplikasi mereka, Anda tahu data apa yang mereka gunakan, orang yang tepat menyetujui permintaan ini, dan Anda memeriksa prosesnya dua kali setahun untuk memastikan prosesnya diterapkan dengan benar. Ambil saja AI generatif satu langkah pada satu waktu."