Hilang dalam terjemahan: Chatbots AI masih terlalu berpusat pada bahasa Inggris, demikian temuan studi Stanford
Preferensi dan pengalaman manusia tidak bersifat universal, dan chatbot AI perlu mencerminkan hal tersebut.
Solusi AI dan chatbot terkait yang muncul mungkin tidak memiliki keragaman global yang diperlukan untuk melayani basis pengguna internasional. Banyak model bahasa besar saat ini cenderung mendukung "selera dan nilai-nilai yang berpusat pada Barat", demikian pernyataan penelitian terbaru yang dilakukan oleh para peneliti di Universitas Stanford. Upaya untuk mencapai apa yang disebut sebagai "penyelarasan" dengan pengguna sistem atau chatbot yang dituju sering kali gagal, klaim mereka.
Hal ini bukan karena kurangnya usaha, seperti yang diceritakan oleh para peneliti, yang dipimpin oleh Diyi Yang, asisten profesor di Universitas Stanford dan bagian dari Stanford Human-Centered Artificial Intelligence (HAI), dalam penelitian tersebut. “Sebelum pembuat chatbot baru berbasis AI dapat merilis aplikasi terbaru mereka ke masyarakat umum, mereka sering kali merekonsiliasi model mereka dengan berbagai niat dan nilai pribadi dari pengguna yang dituju.” Namun, upaya untuk mencapai keselarasan ini "dapat menimbulkan bias tersendiri, yang membahayakan kualitas respons chatbot."
Secara teori, "penyelarasan harus bersifat universal dan membuat model bahasa yang besar lebih dapat diterima dan bermanfaat bagi berbagai pengguna di seluruh dunia dan, idealnya, untuk sebanyak mungkin pengguna," kata mereka. Namun, anotator yang ingin mengadaptasi kumpulan data dan LLM di wilayah berbeda mungkin salah menafsirkan instrumen tersebut.
Chatbot AI untuk berbagai tujuan -- mulai dari interaksi pelanggan hingga asisten cerdas -- terus berkembang biak dengan kecepatan yang signifikan, sehingga ada banyak hal yang dipertaruhkan. Ukuran pasar chatbot AI global diperkirakan bernilai hampir $67 miliar pada tahun 2033, tumbuh sebesar 26% per tahun dari ukurannya saat ini yang berjumlah lebih dari $6 miliar, menurut perkiraan MarketsUS.
“Pasar chatbot AI mengalami pertumbuhan pesat karena meningkatnya permintaan akan layanan dukungan pelanggan otomatis dan kemajuan dalam teknologi AI,” penulis laporan tersebut merinci. “Menariknya, lebih dari 50% perusahaan diperkirakan akan berinvestasi lebih banyak setiap tahunnya dalam pengembangan bot dan chatbot dibandingkan pengembangan aplikasi seluler tradisional.”
Intinya adalah bahwa berbagai macam bahasa dan komunitas di seluruh dunia saat ini kurang terlayani oleh AI dan chatbots. Instruksi atau keterlibatan dalam bahasa Inggris mungkin berisi frasa atau idiom yang dapat disalahartikan.
Studi Stanford menegaskan bahwa LLM kemungkinan besar didasarkan pada preferensi penciptanya, yang, pada saat ini, kemungkinan besar berbasis di negara-negara berbahasa Inggris. Preferensi manusia tidak bersifat universal, dan LLM harus mencerminkan "konteks sosial orang-orang yang diwakilinya -- yang menyebabkan variasi dalam tata bahasa, topik, dan bahkan sistem nilai moral dan etika."
Para peneliti Stanford menawarkan rekomendasi berikut untuk meningkatkan kesadaran akan keberagaman global:
Ketahuilah bahwa penyelarasan model bahasa bukanlah solusi universal. "Berbagai kelompok terkena dampak yang berbeda-beda akibat prosedur penyelarasan."
Mengupayakan transparansi. Hal ini "sangat penting dalam mengungkapkan keputusan desain yang diperlukan untuk menyelaraskan LLM. Setiap langkah penyelarasan menambah kompleksitas dan dampak tambahan pada pengguna akhir." Sebagian besar kumpulan data preferensi yang ditulis manusia tidak menyertakan demografi anotator preferensi regionalnya. "Melaporkan informasi tersebut, bersama dengan keputusan tentang permintaan atau tugas apa yang ada dalam domain tersebut, sangat penting untuk penyebaran LLM yang selaras dan bertanggung jawab kepada beragam audiens pengguna."
Carilah kumpulan data multibahasa. Para peneliti melihat kumpulan data Tülu yang digunakan dalam model bahasa, dimana 13% di antaranya adalah non-Inggris. “Namun data multibahasa ini menghasilkan peningkatan kinerja dalam enam dari sembilan bahasa yang diuji untuk QA ekstraktif dan sembilan bahasa untuk pemahaman bacaan. Banyak bahasa dapat memperoleh manfaat dari data multibahasa.”
Bekerja sama dengan pengguna lokal juga penting untuk mengatasi kekurangan atau kesalahan budaya atau bahasa dalam chatbot AI. “Berkolaborasi dengan pakar lokal dan penutur asli sangat penting untuk memastikan adaptasi yang autentik dan tepat,” tulis Vuk Dukic, insinyur perangkat lunak dan pendiri Anablock, dalam artikel LinkedIn baru-baru ini. “Penelitian budaya yang menyeluruh diperlukan untuk memahami nuansa setiap target pasar. Penerapan algoritme pembelajaran berkelanjutan memungkinkan chatbot beradaptasi dengan interaksi pengguna dan masukan dari waktu ke waktu.”
Dukic juga mendesak “pengujian ekstensif dengan pengguna lokal sebelum penerapan penuh untuk membantu mengidentifikasi dan menyelesaikan kesalahan budaya.” Selain itu, "menawarkan pilihan bahasa memungkinkan pengguna memilih bahasa dan konteks budaya pilihan mereka."