Perjalanan menuju agen AI yang sepenuhnya otonom dan pemodal ventura yang mendanai mereka
Apa yang disebut sebagai agen AI saat ini akan dikalahkan oleh program-program yang memiliki kendali jauh lebih besar atas keputusan yang dibuat dalam proses perusahaan.
Istilah "AI agen", atau "agen kecerdasan buatan", dengan cepat menjadi hal yang lumrah, sehingga pihak-pihak yang berinvestasi dalam teknologi ini melihat adanya kebutuhan untuk membedakannya.
Dalam serangkaian posting blog yang diterbitkan minggu lalu, mitra di perusahaan modal ventura Menlo Ventures, (yang mendanai startup di bidang kecerdasan buatan seperti Anthropic), menjelaskan “gelombang agen berikutnya” dan bagaimana mereka melampaui agen yang diperkenalkan sejauh ini.
Agen masa depan, tulis mereka, memiliki empat kemampuan berbeda.
“Agen yang sepenuhnya otonom didefinisikan oleh empat elemen yang, jika digabungkan, meningkatkan kemampuan agen penuh: penalaran, memori eksternal, eksekusi, dan perencanaan,” tulis para penulis.
“Untuk lebih jelasnya, agen-agen yang sepenuhnya otonom di masa depan mungkin memiliki keempat elemen dasar tersebut, namun aplikasi dan agen LLM saat ini tidak memilikinya,” mereka menyatakan.
Penulisnya, Tim Tully, Joff Redfern, Deedy Das, dan Derek Xiao, mengeksplorasi dalam postingan blog pertama mereka apa artinya menjadi "agentik". Perangkat lunak tersebut, tulis mereka, pada akhirnya harus mendapatkan otonomi yang lebih besar dan lebih besar dalam memilih antara langkah-langkah yang mungkin diambil untuk memecahkan suatu masalah.
“Agen muncul ketika Anda menempatkan LLM dalam aliran kontrol aplikasi Anda dan membiarkannya secara dinamis memutuskan tindakan mana yang harus diambil, alat mana yang akan digunakan, dan bagaimana menafsirkan dan merespons masukan,” tulis para penulis.
Model bahasa besar konvensional dapat memiliki akses ke "alat", seperti program eksternal yang memungkinkan LLM melakukan suatu tugas. Anthropic telah melakukan ini dengan fitur Penggunaan Alatnya, dan OpenAI memiliki hal serupa.
Namun, penulis menjelaskan bahwa penerapan suatu alat hanya memberikan sarana LLM untuk memecahkan suatu masalah, bukan kontrol untuk memutuskan cara suatu masalah harus diselesaikan.
Seperti yang ditulis oleh penulisnya, "Penggunaan alat memang sangat berguna, namun dengan sendirinya, [alat tersebut] tidak dapat dianggap 'agentik'. Alur kontrol logis tetap ditentukan sebelumnya oleh aplikasi." Sebaliknya, agen harus mempunyai kemampuan yang luas untuk memilih alat mana yang akan digunakan, logika pengambilan keputusan.
Beberapa versi perangkat lunak mendekati menjadi agen yang sebenarnya, penulis menjelaskan. Salah satunya adalah "agen pembuat keputusan", yang menggunakan model bahasa besar untuk memilih serangkaian aturan yang pada gilirannya memutuskan alat mana yang harus digunakan. Mereka mengutip startup perangkat lunak kesehatan Anterior sebagai contoh sistem pengambilan keputusan semacam itu.
Berikutnya, agen tingkat tinggi, yang disebut “agent on rails,” “diberikan tujuan tingkat tinggi untuk dicapai (misalnya, 'mendamaikan faktur ini dengan buku besar,'” tulis mereka. Program ini diberikan lebih banyak keleluasaan untuk mencocokkan permintaan tingkat tinggi dan seperangkat aturan yang harus diikuti.
Para penulis mencatat bahwa banyak startup yang menerapkan pendekatan “agent on rails” ini, termasuk perusahaan layanan pelanggan Sierra dan perusahaan pengembangan perangkat lunak All Hands AI.
Yang ketiga, AI agen tingkat tertinggi, cawan suci, seperti yang mereka katakan, memiliki "penalaran dinamis" dan "pembuatan kode khusus" yang memungkinkan model bahasa besar untuk "menggabungkan" buku peraturan perusahaan. Pendekatan semacam ini, yang dikenal sebagai “agen AI umum,” masih dalam tahap penelitian, catat para penulis. Contohnya termasuk Devin, "insinyur perangkat lunak AI pertama", yang diciptakan oleh startup Cognition.
Dalam postingan blog kedua, "Beyond Bots: How AI Agents Are Driving the Next Wave of Enterprise Automation," penulis merefleksikan bagaimana AI agen akan diterapkan di perusahaan.
Dampak langsungnya, tulis mereka, adalah beralih dari “otomatisasi proses robotik,” atau RPA, alat yang menggantikan beberapa tugas dasar manusia dengan perangkat lunak, yang dijual oleh perusahaan seperti UiPath dan Zapier.
Agen pengambil keputusan dan agen di rel yang dieksplorasi di postingan pertama menemukan penerapan praktis dalam tugas bisnis, seperti merekonsiliasi faktur pemasok ke buku besar:
Katakanlah sebuah perusahaan perlu merekonsiliasi faktur dari pemasok internasional dengan buku besarnya. Proses ini melibatkan berbagai pertimbangan, termasuk mata uang faktur, mata uang buku besar, tanggal transaksi, fluktuasi nilai tukar, biaya lintas batas, dan biaya bank, yang semuanya harus diambil dan dihitung bersama untuk merekonsiliasi pembayaran. Agen mempunyai kecerdasan seperti ini, sedangkan agen RPA mungkin akan meneruskan kasusnya ke manusia.
Dorongan utama dari postingan blog ini adalah bahwa banyak startup telah menjual barang-barang yang mendekati fungsi agen yang lebih tinggi. Itu "bukan hanya fiksi ilmiah," tulis mereka. “Meskipun kategori ini masih terus bermunculan, perusahaan-perusahaan mulai dari startup hingga perusahaan Fortune 500 telah membeli dan memanfaatkan sistem ini dalam skala besar.”
Penulis menawarkan bagan praktis dari berbagai penawaran, yang disusun berdasarkan tingkat otonomi program agen sepanjang satu sumbu, dan tingkat fokus pasar vertikal atau horizontal:
Tidak tercakup dalam dua postingan blog tersebut adalah dua batasan utama yang muncul dalam sistem AI generatif (gen AI) yang ada dan mengancam untuk menghambat kemajuan agen.
Pertama, tidak adanya diskusi substansial oleh penulis tentang bagaimana menangani halusinasi, dengan yakin menyatakan keluaran yang salah. Apa pun proses penalaran yang digunakan oleh gen AI, dan betapapun hebatnya alat yang digunakan, tidak ada alasan untuk berasumsi bahwa agen AI tidak akan tetap menghasilkan keluaran yang salah seperti chatbot konvensional.
Setidaknya, pertanyaan apakah agen pengambil keputusan dan agen di rel mengurangi halusinasi atau tidak adalah pertanyaan penelitian terbuka.
Kedua, meskipun AI agen mungkin dapat mengotomatiskan sejumlah proses perusahaan, hingga saat ini hanya ada sedikit data mengenai dampak otomatisasi tersebut dan apakah ini benar-benar sebuah kemajuan. Itu sebagian ada hubungannya dengan poin pertama tentang halusinasi, tapi tidak seluruhnya. Agen yang tidak salah dalam penalaran atau tindakannya masih dapat memberikan hasil yang kurang optimal dibandingkan dengan apa yang akan dilakukan seseorang.
Contoh yang menonjol dibahas dalam buku, "AI Snake Oil" yang ditulis oleh pakar ilmu komputer Princeton, Arvind Narayan dan Sayash Kapoor, yang diterbitkan bulan ini oleh Princeton University Press. Model AI melacak riwayat pasien asma yang menunjukkan gejala pneumonia saat masuk rumah sakit. Model AI menemukan bahwa mereka termasuk pasien dengan risiko terendah di antara populasi rumah sakit. Dengan menggunakan "alasan" tersebut, pasien tersebut dapat dipulangkan.
Namun, model tersebut mengabaikan hubungan sebab akibat: pasien dengan asma dan gejala pneumonia memiliki risiko paling kecil karena mereka menerima perawatan darurat. Membuang obat-obatan tersebut saja sudah mengabaikan perawatan tersebut dan akibatnya bisa menjadi "bencana besar", kata Narayan dan Kapoor.
Korelasi semacam itulah, bukan kausalitas, yang dapat memberikan hasil yang jauh lebih tidak optimal dalam situasi dunia nyata dengan situasi sebab-akibat yang kompleks.
Yang juga tidak termasuk dalam ruang lingkup diskusi penulis adalah agen yang berkolaborasi. Seperti yang dikatakan CTO Hubspot Dharmesh Shah kepada ZDNET baru-baru ini, pekerjaan AI agen di masa depan tidak akan dilakukan oleh satu agen tetapi kemungkinan besar akan dilakukan oleh jaringan agen AI yang berkolaborasi satu sama lain.
Mengingat kelalaian tersebut, cukup jelas bahwa meskipun banyak penelitian yang dilakukan oleh pemodal ventura, mereka hanya mengetahui apa yang akan dicapai di dunia dengan agen AI yang semakin kuat.