Pengguna Google Buku dan Cendekia berhati-hatilah: omong kosong yang dihasilkan oleh AI membanjiri hasil pencarian
Mesin pencari buku dan akademis menyertakan judul-judul yang seluruhnya diproduksi oleh ChatGPT. Berikut cara mengidentifikasinya.
Apakah Anda menggunakan Google Buku untuk mencari buku tentang topik tertentu? Atau Google Cendekia untuk menyelami penelitian akademis? Ada hal yang harus Anda ketahui: Situs-situs ini, yang memungkinkan pengguna untuk "mencari indeks buku teks lengkap paling komprehensif di dunia" -- dan mencari literatur akademis di semua disiplin ilmu -- telah mulai mengindeks buku-buku berkualitas rendah yang dihasilkan oleh AI yang muncul untuk ditulis oleh penulis manusia yang nyata.
Tren yang meresahkan ini pertama kali ditemukan oleh 404 Media, yang menggunakan trik sederhana untuk melacak buku-buku yang dihasilkan oleh AI. Jika Anda menanyakan ChatGPT tentang peristiwa terkini, Anda akan sering disambut dengan kalimat, "Sepengetahuan saya yang terakhir." Itu hanyalah cara OpenAI untuk memberi tahu Anda bahwa chatbot memiliki batasan waktu mengenai informasi apa yang dapat diaksesnya.
Jika Anda menelusuri Google Buku untuk "Pada pembaruan pengetahuan terakhir saya", Anda akan menemukan buku-buku yang tampaknya menyertakan konten yang dihasilkan ChatGPT secara verbatim. Pencarian cepat untuk frasa itu muncul halaman demi halaman judul. Beberapa buku membahas tentang ChatGPT dan menyertakan frasa untuk membahas batasan chatbot, namun lusinan buku lainnya mencoba untuk menganggap tulisan yang dihasilkan AI sebagai tulisan manusia.
Misalnya, sebuah buku tentang pemboman Boston Marathon menggunakan frasa "Sampai pengetahuan saya yang terakhir pada bulan September 2021, kasus ini masih dalam proses hukum, dan hasil akhirnya masih belum pasti" ketika menangani pelaku serangan. "Penulis" buku itu memiliki 50 karya lainnya, termasuk judul tentang Perang Dingin, 9/11, bapak pendiri Amerika, Roma kuno, petinju terkenal, dan penduduk asli Amerika yang terkenal.
Setiap judul tersebut diterbitkan pada tahun 2023 (Jack Wallen milik ZDNET membutuhkan waktu 30 tahun untuk menerbitkan buku sebanyak itu) dan tebalnya antara 50 dan 100 halaman. Saat menelusurinya, saya menemukan bahwa semuanya menawarkan narasi dangkal yang paling mirip dengan entri Wikipedia dan paling buruk tampak seperti ChatGPT yang mengutarakan fakta. Pencarian cepat online juga mengungkapkan bahwa buku-buku ini dijual di Amazon dan pengecer lain.
Ketika saya memasukkan frasa yang sama ke Google Cendekia, yang seharusnya menjadi gudang penelitian pada manusia, saya mendapatkan 19 halaman hasil, termasuk makalah tentang remaja berisiko, diabetes, autisme, COVID-19, dan kelelahan pilot maskapai penerbangan.
Penyebaran konten buatan AI di web bukanlah hal baru. Namun, agak mengkhawatirkan melihat konten yang dihasilkan AI muncul bersamaan dengan karya manusia di dalam sumber daya yang dapat diandalkan seperti Google Buku dan Google Cendekia.
Berbicara kepada 404 Media, Google mengatakan akan "terus mengevaluasi pendekatan kami seiring dengan berkembangnya dunia penerbitan buku" namun tidak menyebutkan penghapusan hasil tersebut dari kedua layanan tersebut.