Agen AI mungkin merupakan tenaga kerja baru, tetapi mereka masih membutuhkan seorang manajer

Agen AI semakin pintar dan mandiri. Namun masih ada pekerjaan yang harus diselesaikan sebelum tenaga kerja agen yang digerakkan oleh AI dapat benar-benar melakukan berbagai tugas.

Kita semakin sering mendengar tentang agen AI sebagai "pekerja digital" baru -- sebuah konsep yang muncul sebelum AI orgeneratif agen menjadi populer di berbagai bidang seperti otomatisasi proses robotik. Pekerja digital dirancang untuk menjalankan disiplin dan kepatuhan, tetapi sama seperti pekerja manusia, mereka juga memiliki keunikannya masing-masing.

Pergerakan menuju tenaga kerja digital telah mengalami lompatan besar akhir-akhir ini, ditandai dengan diperkenalkannya Agentforce 2.0 oleh Salesforce, sebuah platform tenaga kerja digital untuk perusahaan. Platform ini memungkinkan “tenaga kerja tanpa batas melalui agen AI untuk departemen mana pun, dikumpulkan menggunakan perpustakaan keterampilan baru yang telah dibangun sebelumnya, dan dapat mengambil tindakan di seluruh sistem atau alur kerja apa pun.” Platform ini juga mengambil langkah-langkah jauh melampaui RPA, menampilkan “peningkatan penalaran dan pengambilan data untuk memberikan jawaban yang tepat dan mengatur tindakan dalam menanggapi pertanyaan yang kompleks dan multi-langkah,” menurut pernyataan dari Salesforce. Para agen bahkan berinteraksi di Slack.

Meningkatkan tim dengan kerja digital

Organisasi-organisasi besar memanfaatkan platform ini untuk menambah tim mereka dengan tenaga kerja digital, tambah vendor tersebut.

Tenaga kerja langka dan mahal untuk dilatih, sehingga organisasi beralih ke AI untuk membantu interaksi pelanggan dan menangani simpanan alur kerja, namun tidak mampu lagi membeli “solusi yang tidak memadai yang memberikan respons umum,” kata Salesforce. "Solusi yang ada seperti kopilot kesulitan memberikan respons yang akurat dan tepercaya terhadap permintaan yang kompleks -- seperti panduan yang dipersonalisasi dalam lamaran pekerjaan. Mereka tidak dapat mengambil tindakan sendiri -- seperti mengembangkan pemimpin dengan rekomendasi produk."

Para pemimpin industri sepakat bahwa pekerja digital yang otonom kini dapat melakukan pekerjaan tersebut di berbagai tingkatan. “Konvergensi inovator terampil, alat cloud yang dapat diterapkan dengan cepat, kesadaran pelanggan, dan dukungan eksekutif telah menciptakan lingkungan ideal bagi AI agen untuk berkembang pada tahun 2025,” Chris Bennett, direktur transparansi dan pendidikan AI di Motorola Solutions, mengatakan kepada ZDNET.

Misalnya, Motorola Solutions telah mulai memanfaatkan AI agen "untuk meningkatkan keselamatan publik dan keamanan perusahaan, dengan aplikasi yang menganalisis dan memunculkan data secara real-time untuk memberikan dukungan penting dan segera kepada petugas pertolongan pertama dan personel keamanan," kata Bennett. "Agen AI tidak pernah bosan, lelah, atau terganggu, mengotomatiskan tugas yang berulang dan membebaskan petugas tanggap untuk tanggung jawab penting dan keterlibatan komunitas. Agen AI dapat mempercepat tugas seperti meninjau rekaman video historis, membantu penyelidik dengan cepat menemukan orang hilang melalui pencarian bahasa alami."

Hal ini bekerja melalui agen AI yang melakukan proses intuisi untuk "membuat serangkaian langkah, atau resep untuk memecahkan suatu masalah," kata Viswesh Ananthakrishnan, salah satu pendiri dan wakil presiden Aurascape. Mereka juga dapat "mengambil tindakan untuk melaksanakan langkah-langkah ini dan bahkan berkolaborasi dengan agen lain untuk melakukannya. Jika digabungkan, data ini memberikan gambaran kepada agen tentang bagaimana perusahaan berfungsi."

Agen AI kemudian “mengembangkan dan menjalankan proses yang kompleks, seperti melihat perkiraan permintaan dan mengambil tindakan proaktif untuk menghasilkan dan mengirimkan formulir pemesanan untuk inventaris lebih banyak sebelum persediaan hampir habis,” lanjutnya. “Jenis otomatisasi ini menghemat banyak waktu pekerja dan membebaskan mereka dari tugas yang berulang.”

Agen AI perlu dikelola dengan cermat

Pada saat yang sama, agen AI perlu dikelola dengan cermat, seperti halnya dengan pekerjaan manusia, dan ada pekerjaan yang harus diselesaikan sebelum tenaga kerja agen yang digerakkan oleh AI dapat benar-benar melakukan berbagai tugas. “Meskipun potensi AI agen sudah jelas, kita masih perlu beberapa tahun lagi untuk menerapkan AI agen secara luas di tingkat perusahaan,” kata Scott Beechuk, mitra Norwest Venture Partners. “Agen harus dapat dipercaya mengingat potensi peran mereka dalam mengotomatisasi proses bisnis yang sangat penting.”

Ketertelusuran tindakan agen AI adalah salah satu permasalahannya. “Banyak alat kesulitan menjelaskan bagaimana mereka sampai pada tanggapan dari data sensitif pengguna dan model kesulitan untuk menggeneralisasi melebihi apa yang telah mereka pelajari,” kata Ananthakrishnan.

Ketidakpastian merupakan tantangan terkait, karena LLM "beroperasi seperti kotak hitam," kata Beechuk. “Sulit bagi pengguna dan insinyur untuk mengetahui apakah AI telah berhasil menyelesaikan tugasnya dan apakah ia melakukannya dengan benar.” Selain itu, ia memperingatkan bahwa agen AI masih belum dapat diandalkan. “Dalam sistem di mana AI membuat langkah-langkahnya sendiri untuk menyelesaikan tugas, detail yang dibuat-buat dapat menyebabkan lebih banyak kesalahan seiring berjalannya tugas, yang pada akhirnya membuat keluarannya tidak dapat diandalkan.”

Pekerja manusia juga mampu berkolaborasi dengan mudah dan teratur. Bagi pekerja AI, ceritanya berbeda. “Karena agen akan berinteraksi dengan berbagai sistem dan penyimpanan data, mencapai visibilitas komprehensif bukanlah tugas yang mudah,” kata Ananthakrishnan. Penting untuk memiliki visibilitas untuk menangkap setiap tindakan yang dilakukan agen. “Ini berarti visibilitas mendalam terhadap aktivitas pada perangkat endpoint dan kemampuan untuk memproses data dalam berbagai format.” Kemudian, penting untuk dapat "dengan cepat menggabungkan konteks ini dari titik akhir dengan lalu lintas tingkat jaringan untuk menentukan data yang menginformasikan tindakan agen", serta "mengenali jenis agen AI yang berinteraksi dengan data Anda, apakah itu entitas tepercaya , atau agen baru."

Insinyur sistem AI

Hal ini dapat meningkatkan peran yang berpusat pada manusia, yakni insinyur sistem AI. “Peran jaminan kualitas dan pengawasan baru ini akan menjadi penting bagi perusahaan saat mereka mengelola dan terus mengoptimalkan agen AI,” kata Beechuk.

Dalam lingkungan multi-agen, “Agen AI akan berinteraksi dan berkembang secara konstan, mengonsumsi data baru secara terus-menerus untuk melakukan pekerjaan masing-masing,” jelasnya. "Ketika salah satu dari mereka mendapatkan data yang buruk -- secara sengaja atau tidak sengaja -- dan mengubah perilakunya, ia dapat mulai melakukan tugasnya dengan salah atau kurang presisi, meskipun ia telah melakukannya dengan baik satu hari sebelumnya. Kesalahan pada satu agen kemudian dapat menimbulkan efek berjenjang yang menurunkan keseluruhan sistem. Perusahaan akan mempekerjakan sebanyak mungkin insinyur sistem AI untuk mencegah hal tersebut terjadi."

Perusahaan dan tim teknologi mungkin “berada dalam posisi yang baik untuk mendukung AI agen, namun kita masih memerlukan waktu dan pengalaman untuk mencapai keseimbangan yang tepat antara alur kerja agen dan manusia,” saran Bennett. “Saran kami adalah memandang AI sebagai tambahan bagi pakar manusia, bukan pengganti.”