Perusahaan akan membutuhkan tata kelola AI seiring dengan bertambahnya jumlah model bahasa yang besar
Sekarang adalah waktunya bagi dunia usaha untuk mulai memikirkan bagaimana mereka akan menciptakan kerangka tata kelola untuk aplikasi kecerdasan buatan generatif mereka.
Dengan jumlah model bahasa besar (LLM) di pasar yang diperkirakan akan tumbuh dan berkembang, bisnis memerlukan kerangka tata kelola untuk mengelola aplikasi kecerdasan buatan (AI) generatif mereka.
Organisasi akan memerlukan lapisan intelijen yang menyatukan kemampuan internal dan eksternal, kata Frederic Giron, wakil presiden dan direktur penelitian senior Forrester.
Pendekatan ini akan mencakup penggunaan LLM berbayar dan sumber terbuka dari pihak ketiga, seperti ChatGPT OpenAI, Claude Anthropic, dan Llama Meta, serta alat AI tertanam, seperti Salefsforce Einstein GPT. Organisasi juga akan memiliki model AI mereka sendiri, termasuk menggunakan AI generatif, memanfaatkan LLM tujuan umum dan khusus, dan menjalankan berbagai aplikasi AI bersamaan dengan proses utama, kebijakan, dan aturan bisnis.
Pendekatan ini akan didukung oleh data terstruktur dan tidak terstruktur, dan data terstruktur diperkirakan akan meningkat dua kali lipat di tengah penerapan AI generatif ketika perusahaan menerapkan lebih banyak pengalaman percakapan untuk pelanggan dan karyawan, kata Giron, yang berbicara pada pengarahan prediksi tahun 2024 perusahaan riset tersebut minggu ini.
Respons dan perilaku pengguna juga harus dimasukkan ke dalam putaran umpan balik dan digunakan untuk menyempurnakan sistem.
Persyaratan ini menggarisbawahi perlunya dunia usaha untuk memiliki arsitektur aplikasi AI generatif untuk mengatur dan memastikan penggunaan alat-alat ini aman dan efisien, katanya.
Kerangka kerja ini harus menghubungkan saluran aplikasi, mengatur permintaan menjadi keluaran, dan membuka gerbang masukan dan keluaran, sehingga organisasi dapat mengontrol data apa yang masuk ke model AI dan memastikan responsnya mematuhi aturan yang telah ditetapkan oleh bisnis.
Kompleksitas seputar tata kelola AI berarti perlu beberapa saat sebelum perusahaan dapat melihat hasil nyata dari penerapan suatu kerangka kerja.
Forrester memperkirakan dampak transformatif AI generatif hanya akan menguntungkan 30% perusahaan di Asia Pasifik pada tahun depan. Giron menunjukkan tantangan utama terkait tata kelola data, kualitas, dan infrastruktur.
Untuk membantu dunia usaha mengatasi kesenjangan tersebut, ia mencatat bahwa penyedia layanan berinvestasi dalam mengubah cara mereka beroperasi dan memberikan model layanan mereka, termasuk memperluas kemitraan industri dan meluncurkan platform baru, seperti studio AI dan perbandingan model.
Investasi ini akan mendorong model penetapan harga yang lebih baik dan, dalam jangka panjang, berdampak pada model komersial. Hasilnya antara lain adalah struktur penetapan harga yang lebih berbasis hasil dan berbasis solusi.
Analis tersebut menambahkan bahwa 56% organisasi mengharapkan produktivitas karyawan menjadi kasus penggunaan utama AI generatif, diikuti oleh 48% yang mengarah pada pengembangan dan pengujian perangkat lunak. Sebanyak 48% lainnya melihat AI generatif sebagai pendukung data dan analisis layanan mandiri.
Tidak mengherankan, AI generatif adalah badai teknologi terbesar yang melanda dalam 40 tahun, menurut Dane Anderson, wakil presiden senior penelitian dan produk internasional Forrester.
Hal ini mengikuti teknologi “titik balik” sebelumnya yang memunculkan komputasi awan pada tahun 2009 dan gelombang internet seluler dan telepon pintar meningkat pada tahun 2007, kata Anderson. Perubahan World Wide Web terjadi pada tahun 1990an, sementara komputer pribadi mulai berkembang pada tahun 1981.
Beberapa dari inovasi ini membawa perubahan yang lebih besar dibandingkan inovasi lainnya, sehingga menciptakan peluang dan tantangan, tambahnya. Dengan munculnya AI generatif, analis memperkirakan bahwa situs web “statis” secara bertahap akan ditinggalkan dalam 20 tahun ke depan.
Pengguna akan berevolusi untuk meminta atau mengajukan pertanyaan, dan mereka akan mendapatkan respons yang terus diperbarui di backend -- didukung oleh AI generatif -- dan disesuaikan untuk pengalaman interaktif yang lebih baik.
Perubahan pada situs web ini akan berdampak lebih jauh pada pencarian, yang tidak lagi menjadi hal yang penting atau penting seperti sekarang, kata Anderson.
Transformasi signifikan seperti itu akan terjadi dalam beberapa tahun. Dalam jangka pendek, antisipasi munculnya lebih banyak LLM di pasar berarti organisasi perlu menilai pilihan mereka dengan cermat dan menentukan model mana yang paling sesuai untuk hasil yang mereka inginkan.
Anderson juga mencatat potensi lebih banyak pelaku pasar untuk mulai menanamkan kemampuan AI generatif secara gratis ke dalam aplikasi perusahaan pelanggan mereka yang sudah ada.
Pada akhirnya, nilai bagi bisnis tidak terletak pada lapisan di mana LLM beroperasi, kata Leslie Joseph, analis utama Forrester, karena segmen pasar ini akan dikomoditisasi seiring dengan semakin banyaknya LLM yang bermunculan, tambahnya.
Joseph mendesak vendor perangkat lunak untuk mulai mengintegrasikan fitur AI generatif ke dalam produk mereka, daripada menawarkan alat ini sebagai versi setara ChatGPT mereka. Pendekatan yang disempurnakan ini akan membantu mendorong lingkungan kerja di mana kemampuan AI generatif lebih tertanam dalam cara kerja karyawan dan menjadikan teknologi ini lebih terjangkau bagi bisnis, katanya.