Bagaimana Teknologi AI Akhirnya Membuat Game Online Mengurangi Racun

Ringkasan

Komunitas game online sering kali gagal membuat pemain merasa aman dan dilibatkan karena lobi teks dan obrolan suara yang beracun.
Moderasi obrolan AI menandai perilaku yang berpotensi beracun sehingga dapat ditinjau dan ditangani oleh tim moderator manusia.
Moderasi obrolan suara AI sudah digunakan di game multipemain populer seperti Call of Duty, Among Us, dan GTA Online

Menghabiskan waktu di lobi permainan atau mengobrol bisa terasa tidak menyenangkan. Beberapa komunitas menjadi beracun, sehingga membuat pemain menjauh dari game ini bahkan sebelum mereka mulai memainkannya. Beberapa penerbit berpikir AI bisa menjadi solusi untuk membuat game mereka dapat didekati oleh semua pemain.

Game Memiliki Masalah Toksisitas

Saya berasal dari kalangan game jadul, jadi sebagian besar tahun-tahun pembentukan saya dihabiskan dengan bermain game pemain tunggal atau kompetisi sofa di konsol. Pembicaraan sampah adalah hal yang biasa dilakukan hari ini, tetapi Anda tahu batas kemampuan Anda saat berada di sofa di samping teman-teman Anda, dan tidak ada yang pernah menganggap pembicaraan sampah itu pribadi. Internet mengubah semua itu.

Meskipun Anda dapat memainkan game multipemain lokal dengan Steam, biasanya Anda bermain online di lobi. Jika Anda memainkan game tembak-menembak multipemain daring seperti Valorant atau Call of Duty, Anda akan segera menyadari betapa besarnya masalah toksisitas yang dihadapi oleh banyak penembak daring. Data dari tahun 2022 menunjukkan bahwa Call of Duty mungkin adalah yang paling beracun di antara semua basis penggemar, sehingga membuat game ini terlihat buruk di mata penggemar baru. Permainan ini juga memiliki sejarah perilaku berbahaya yang terkenal, termasuk tren "swatting" yang terkenal dari beberapa tahun yang lalu.

Activision, penerbit Call of Duty, tidak senang dengan hal ini dan memutuskan sudah waktunya untuk mengubah keadaan.

Para pemain telah lama mencari game yang tidak beracun. Namun, sebagian besar perusahaan game tidak tahu cara mengatasi masalah toksisitas di antara basis pemainnya. Call of Duty baru-baru ini menerapkan sistem yang menggunakan AI untuk menangkap perilaku beracun di lobi dan menangani pemain yang mendorong perilaku negatif di basis pemain mereka. Hasilnya ternyata sangat efektif.

Bagaimana AI Menangani Pemain Beracun

Jadi Anda berada di lobi permainan, dan ada pria yang menyerang Anda dengan pembicaraan sampah. Akhirnya berubah menjadi bahasa yang menjijikkan, lalu menghina. Anda melaporkan orang itu, tetapi Anda bahkan tidak tahu apakah akan ada tindakan yang diambil untuk mengatasinya.

Ini adalah kenyataan dari banyak ruang permainan online saat ini. Menurut Activision, lebih dari empat juta akun terkena penegakan hukum pada Januari 2024 karena perilaku beracun, namun perilaku tersebut masih berlanjut.

Pendekatan lama Activision tidak berhasil, jadi mereka memutuskan untuk mengubah cara.

Perusahaan ini sebelumnya bermitra dengan Community Sift untuk moderasi berbasis teks, yang tampaknya berjalan dengan baik. Namun, di lobi berbasis konsol, sebagian besar komunikasi dilakukan melalui suara, dan moderasi berbasis suara diperlukan. Di sinilah peran moderator obrolan suara berbasis AI dari perusahaan.

Moderatornya, yang dikenal sebagai ToxMod, berasal dari perusahaan Modulate.ai dan memiliki banyak kekuasaan dalam ekosistem Call of Duty. ToxMod menggunakan nuansa suara, pola bicara, tekanan, dan elemen lainnya untuk menentukan apakah pengguna mengatakan sesuatu yang beracun kepada anggota lobi lainnya. Moderator dapat mengeluarkan peringatan dan menandai akun pemain untuk ditegakkan dan dicekal oleh manusia.

Game Manakah yang Saat Ini Menjalankan Moderator Obrolan AI?

Judul seperti Among Us dan Grand Theft Auto Online keduanya telah menerapkan moderator obrolan AI. Pemain GTA Online pertama kali mencoba pengujian beta untuk ToxMod pada bulan Desember 2023, namun banyak pengguna mengkhawatirkan privasi mereka. Rockstar, penerbit game tersebut, mengatakan kepada para pemain bahwa mereka baru saja menguji sistem dan akan mempertimbangkan penerapan penegakan hukum pada tahun 2024. Namun hingga saat ini, belum banyak pembaruan mengenai moderasi AI.

Among Us juga menerapkan sistem ini dalam rilis VR-nya pada bulan April 2024. Game-game populer ini telah menjadikan ToxMod sangat populer dalam menangani ucapan yang meragukan dan menjaga lobi game tetap cocok bagi siapa pun. Ini adalah sebuah langkah maju dalam membantu game online multipemain melepaskan masa lalunya yang buruk dan menjadi lebih mudah didekati oleh lebih banyak orang.

Apa yang Ditandai dan Apa yang Boleh

Menurut ToxMod, moderator suara AI menggunakan isyarat emosional untuk menentukan apakah sesuatu yang menyinggung telah dikatakan. Namun, ia juga menggunakan tanggapan obrolan untuk menunjukkan pernyataan yang menyinggung.

Sistem ini dirancang agar manusia dapat mengambil keputusan akhir karena ToxMod mengirimkan catatan rinci percakapan audio kepada moderator manusia, yang kemudian dapat mengeluarkan larangan jika mereka menemukan percakapan tersebut melanggar kode etik. Ini adalah alat penandaan yang dirancang untuk membantu menemukan masalah, bukan sistem moderasi yang sepenuhnya otomatis.

Jadi Mengapa ToxMod menjadi masalah besar jika sudah ada cara bagi pengguna untuk mengirimkan laporan tentang pemain beracun? Masalah Activision adalah membuka layar laporan membuat pemain keluar dari permainan. Jika hal ini terjadi, mereka cenderung tidak ingin terus bermain. Otomatis ToxMod membuat pemain tenggelam dalam membuat laporan untuk mereka.

Banyak dari kita yang terbiasa membungkam pemain bermasalah dan melanjutkan, sedangkan ToxMod memastikan bahwa laporan dibuat sehingga penghasutnya dapat ditangani.

Bagaimana ToxMod Membantu Call of Duty?

Meskipun mudah untuk berspekulasi bahwa moderator suara AI mungkin membuat game seperti Call of Duty tidak terlalu beracun, memiliki fakta nyata jauh lebih baik. Dalam hal ini, Activision memperkirakan jumlah obrolan suara beracun di Amerika Utara berkurang hingga 50% untuk judul Call of Duty: Modern Warfare III dan Call of Duty: Warzone . Sumber yang sama menunjukkan adanya penurunan jumlah pelaku berulang sebesar 8% dan pengurangan toksisitas secara keseluruhan sebesar 25% pada platform.

Dari angka-angka tersebut, jelas bahwa ToxMod memberikan dampak positif pada ekosistem chat. Tetap saja, ini harus ditanggapi dengan sebutir garam. Moderasi suara AI cenderung menimbulkan masalah pada beberapa aksen regional, jadi meminta bantuan manusia untuk mengeluarkan larangan sangatlah penting untuk menghindari masalah apa pun.

Meski begitu, beberapa gamer tidak senang karena dikenakan sanksi untuk voice chat. Sehebat apa pun moderasi suara AI, kesalahan masih bisa dilakukan. Kami rasa ini adalah tahun yang tepat untuk mencoba Call of Duty baru, terutama dengan berkurangnya toksisitas.

Membangun Masa Depan Gaming yang Kami Inginkan

Kecerdasan buatan memiliki banyak kegunaan, mulai dari menghasilkan gambar yang kuat di PC Anda hingga menggunakannya sebagai pelatih kebugaran pribadi. Wajar jika seseorang menemukan cara untuk memoderasi obrolan suara yang menyinggung dalam game multipemain agar suasananya lebih ramah.

Saya ingin melihat komunitas game multipemain di mana orang-orangnya mendukung dan tidak menyalahgunakan sesama pemain karena prasangka. Ada waktu dan tempat untuk membicarakan sampah, tapi ada batasan di mana hal itu berubah menjadi kejam dan kasar.

Jika moderator obrolan suara AI adalah cara untuk membawa kita ke tempat di mana bermain game kembali menyenangkan, saya senang melihatnya diterapkan.