Bot yang dibantu ChatGPT menyebar di media sosial
Influencer atau bot? Berikut beberapa cara untuk mengetahuinya.
Bagi banyak pengguna, menelusuri feed dan notifikasi media sosial seperti mengarungi limbah konten spam. Sebuah studi baru mengidentifikasi 1,140 bot yang dibantu AI yang menyebarkan informasi yang salah di X (sebelumnya dikenal sebagai Twitter) tentang cryptocurrency dan blockchain.
Namun akun bot yang memposting konten semacam ini sulit dikenali, seperti yang ditemukan oleh para peneliti dari Indiana University. Akun bot menggunakan ChatGPT untuk menghasilkan kontennya dan sulit dibedakan dari akun asli, sehingga praktik ini lebih berbahaya bagi korbannya.
Akun bot yang didukung AI memiliki profil yang mirip dengan manusia asli, dengan foto profil dan bios atau deskripsi tentang kripto dan blockchain. Mereka membuat postingan rutin yang dibuat dengan AI, memposting gambar curian sebagai milik mereka, dan membalas serta me-retweet.
Para peneliti menemukan bahwa 1.140 akun bot Twitter milik botnet sosial berbahaya yang sama, yang mereka sebut sebagai “fox8.” Botnet adalah jaringan perangkat yang terhubung -- atau, dalam hal ini, akun -- yang dikendalikan secara terpusat oleh penjahat dunia maya.
Bot AI generatif menjadi lebih baik dalam meniru perilaku manusia. Artinya, alat pendeteksi bot yang tradisional dan canggih, seperti Botometer, kini tidak mencukupi. Alat-alat ini kesulitan untuk mengidentifikasi dan membedakan konten yang dibuat oleh bot dari konten yang dibuat oleh manusia dalam penelitian ini, namun ada satu yang menonjol: pengklasifikasi AI OpenAI, yang mampu mengidentifikasi beberapa tweet bot.
Bagaimana cara mengenali akun bot?
Akun bot di Twitter menunjukkan pola perilaku serupa, seperti mengikuti satu sama lain, menggunakan tautan dan tagar yang sama, memposting konten serupa, dan bahkan berinteraksi satu sama lain.
Para peneliti menyisir tweet dari akun bot AI dan menemukan 1.205 tweet yang mengungkapkan diri.
Dari jumlah tersebut, 81% memiliki kalimat permintaan maaf yang sama:
"Maaf, namun saya tidak dapat memenuhi permintaan ini karena melanggar Kebijakan Konten OpenAI dalam menghasilkan konten berbahaya atau tidak pantas. Sebagai model bahasa AI, respons saya harus selalu bersikap hormat dan pantas untuk semua audiens."
Penggunaan frasa ini menunjukkan bahwa bot diinstruksikan untuk menghasilkan konten berbahaya yang bertentangan dengan kebijakan OpenAI untuk ChatGPT.
19% sisanya menggunakan beberapa variasi bahasa "Sebagai model bahasa AI", dengan 12% secara spesifik mengatakan, "Sebagai model bahasa AI, saya tidak dapat menjelajahi Twitter atau mengakses tweet tertentu untuk memberikan balasan."
Fakta bahwa 3% tweet yang diposting oleh bot ini tertaut ke salah satu dari tiga situs web (cryptnomics.org, fox8.news, dan globaleconomics.news) adalah petunjuk lain.
Situs-situs ini terlihat seperti outlet berita biasa tetapi memiliki tanda bahaya yang mencolok, seperti fakta bahwa semuanya didaftarkan pada waktu yang hampir bersamaan pada bulan Februari 2023, terdapat pop-up yang mendesak pengguna untuk menginstal perangkat lunak yang mencurigakan, semuanya tampaknya menggunakan tema WordPress yang sama, dan memiliki domain yang menyelesaikan ke alamat IP yang sama.
Akun bot berbahaya dapat menggunakan teknik penyebaran diri di media sosial dengan memposting tautan berisi malware atau konten yang dapat menginfeksi, mengeksploitasi dan menginfeksi kontak pengguna, mencuri cookie sesi dari browser pengguna, dan mengotomatiskan permintaan mengikuti.