Tantangan saat ini: Mengatasi hasil AI yang kabur dan akurasi yang dipertanyakan

Sayangnya, tidak ada gambaran jelas 'sebelum dan sesudah' yang secara grafis menggambarkan dampak atau keakuratan AI.

Menjadi sulit untuk menetapkan ekspektasi realistis mengenai kecerdasan buatan -- dan hal ini pada akhirnya dapat membingungkan upaya untuk memahami nilai sebenarnya dari upaya AI. Seiring dengan meningkatnya penggunaan teknologi, hal ini berarti perubahan dalam lanskap karir bagi para profesional teknologi, sehingga menguntungkan para pemikir yang lebih kreatif.

Hal tersebut diungkapkan oleh Ajay Malik, mantan kepala arsitektur dan teknik Google Worldwide Corporate Network, dan saat ini menjabat sebagai CEO Secomind.ai, yang melihat adanya tantangan besar di bidang AI. Mungkin salah satu aspek AI yang paling menantang saat ini adalah menetapkan ekspektasi yang realistis, katanya dalam podcast baru-baru ini yang dipandu oleh Thomas Erl, presiden Arcitura Education.

Sebagai permulaan, tidak ada cukup pengukuran atau kesadaran akan potensi keuntungan yang diberikan oleh AI, kata Malik. Para pengambil keputusan “ingin memastikan bahwa semua informasi yang akan mereka gunakan secara internal, atau untuk berinteraksi dengan pelanggan, adalah akurat,” katanya. "Bagaimana perusahaan mengukur keakuratan apa yang dilakukan AI? Jadi AI melakukan sesuatu, bagaimana Anda selalu tahu bahwa itu akurat? Bagaimana Anda bisa mempercayainya 100%?"

Hal ini membebani seberapa baik tujuan bisnis dapat dicapai melalui AI, kata Erl. “Jika organisasi tidak berhasil atau tersandung, atau jika mereka berinvestasi pada sistem AI yang pada akhirnya malah mengakibatkan kerugian dan bukannya pertumbuhan, hal ini mungkin menunda atau mengubah dampak AI terhadap tenaga kerja mereka. Mereka mungkin berpikir, 'hal ini tidak terjadi. 'Jika tidak berhasil, mari kita kembali ke pekerja manusia.'" Namun peluangnya nyata dan kita harus mempersiapkan diri menghadapi apa pun dampaknya."

Sayangnya, tidak ada gambar “sebelum dan sesudah” yang secara jelas menggambarkan dampak atau keakuratan AI, kata Malik. Untuk mengatasi hal ini, “mereka perlu merancang verifikasi bawaan, penjelasan bawaan, dan check and balances bawaan untuk melihat apakah jawaban AI benar.” Ini termasuk “jalur alternatif, mekanisme, model yang menyediakan teknik sehingga mereka dapat memverifikasi jawabannya.”

Kuncinya adalah memahami apa sebenarnya yang dihasilkan oleh sistem AI, saran Malik. “Jangan gunakan AI sebagai kotak hitam yang Anda andalkan tanpa berpikir. Kita tidak berada di sana saat ini.” Selain itu, bisnis tidak dapat mengandalkan layanan seperti ChatGPT, karena responsnya harus akurat dan bebas halusinasi.

Sebaliknya, ia menyarankan, sistem AI harus memiliki “pemeriksaan dan keseimbangan, memverifikasi jawaban, memverifikasi data, dan menawarkan kemampuan untuk menjelaskan. Ada istilah untuk itu yang disebut XAI, atau AI yang dapat dijelaskan.”

Ada juga implikasi besar terhadap pertumbuhan karir yang berorientasi pada teknologi, lanjut Malik. “Ada pergeseran sumber daya besar yang akan terjadi,” katanya. Karyawan yang menggunakan AI akan menjadi jauh lebih berharga dibandingkan karyawan yang tidak menggunakan AI.”

Dampak AI akan terasa pada jenis pekerjaan dan peran yang akan berkembang dalam beberapa bulan dan tahun mendatang. "Bahkan dalam perangkat lunak, bahkan dalam pemrograman, bahkan dalam pengujian, banyak dari pekerjaan tersebut akan dihilangkan -- bukan hari ini, namun seiring berjalannya waktu," prediksi Malik. "Ini merupakan pekerjaan yang dapat dilakukan oleh AI -- pekerjaan pada tingkat yang sangat junior atau pekerjaan yang sangat berulang dan berlebihan."

Hal ini terutama berlaku untuk pekerjaan tingkat pembuat kode, dibandingkan pekerjaan rekayasa perangkat lunak tingkat tinggi, lanjutnya. "Pembuat kode hanya membuat kode berdasarkan beberapa fakta yang diketahui, dan pemrograman menggunakan lebih banyak pemikiran. Di perusahaan saya sendiri, kami melihat produktivitas 20 hingga 25 kali lebih tinggi karena penggunaan AI untuk mendukung pengkodean, untuk mendukung rapat, notulensi rapat, item tindakan yang dapat mereka lakukan lebih banyak dengan lebih sedikit orang sekarang."

Pada saat yang sama, akan terjadi pergeseran ke arah “para pemikir, pemecah masalah, orang-orang yang kreatif,” tambah Malik. "AI akan menangani pekerjaan yang dilakukan secara berulang-ulang atau terdefinisi dengan baik. Namun manusia kreatif akan menggunakan AI untuk menghasilkan sesuatu yang sangat kreatif dengan kecepatan tinggi dan kualitas tinggi. Pergeseran itu akan segera terjadi."