Distrik sekolah ini menggunakan ChatGPT untuk melarang 19 buku
Larangan tersebut merupakan upaya untuk mematuhi undang-undang baru yang mewajibkan buku tidak menggambarkan tindakan seks dan harus sesuai dengan usia.
Distrik Sekolah Komunitas Mason City di Iowa menggunakan kecerdasan buatan (AI) untuk menyusun daftar buku yang berisi konten seksual, sehingga 19 buku dihapus dari rak perpustakaannya di kelas 7-12.
Distrik sekolah membuat daftar judul yang sering ditolak atau pernah diminta untuk dihapus di masa lalu. Mereka kemudian menjalankannya melalui ChatGPT, menanyakan chatbot AI, "Apakah [buku] berisi deskripsi atau penggambaran tindakan seks?" Jika ChatGPT menjawab setuju, buku tersebut dikeluarkan dari perpustakaan sekolah dan disimpan di kantor administrasi untuk ditinjau lebih lanjut.
Buku-buku yang dilarang termasuk 'The Handmaid's Tale' oleh Margaret Atwood, 'Beloved' oleh Toni Morrison, dan 'The Color Purple' oleh Alice Walker.
Kritikus tidak setuju dengan strategi ini, karena sistem AI seperti ChatGPT juga tidak terkecuali dari misinformasi dan halusinasi. Ilmu Pengetahuan Populer mendiskusikan masalah ini dengan Bridgette Exman, Asisten Pengawas Kurikulum dan Pengajaran Sekolah Mason City, yang menyebut metode ini sebagai "proses yang dapat dipertahankan".
Popular Science juga beberapa kali bertanya kepada ChatGPT tentang 'The Kite Runner' karya Khaled Hosseini, salah satu dari 19 buku yang dilarang, dan mendapat tanggapan yang bertentangan, suatu kali mengatakan bahwa buku tersebut berisi sedikit atau tidak ada konten eksplisit, dan kemudian mengatakan bahwa buku tersebut memang berisi "deskripsi penyerangan seksual" di kemudian hari.
Proses pemilihan dan kemudian mengeluarkan buku dari perpustakaan sekolah dilakukan untuk mematuhi undang-undang baru Iowa yang ditandatangani oleh Gubernur Kim Reynolds pada bulan Mei. Undang-undang tersebut terkait dengan "identitas gender dan orientasi seksual di distrik sekolah", dan sekolah berupaya untuk mematuhi undang-undang tersebut pada awal tahun ajaran yang melanggar batas.
Undang-undang menetapkan bahwa perpustakaan sekolah hanya boleh memuat "materi sesuai usia", yang didefinisikan dalam File Senat 596 sebagai berikut:
“Sesuai usia berarti topik, pesan, dan metode pengajaran yang sesuai dengan usia atau kelompok usia tertentu dari anak-anak dan remaja, berdasarkan pada pengembangan kapasitas kognitif, emosional, dan perilaku yang khas untuk usia atau kelompok usia tersebut. Sesuai usia tidak mencakup materi apa pun. dengan deskripsi atau gambaran visual dari suatu tindakan seks."
Membaca setiap buku di perpustakaan distrik sekolah tidaklah praktis, itulah sebabnya Mason City School District beralih ke ChatGPT.
“Perpustakaan kelas dan sekolah kami memiliki banyak koleksi yang terdiri dari teks yang dibeli, disumbangkan, dan ditemukan,” kata Exman kepada The Gazette pekan lalu. “Sangat tidak mungkin untuk membaca setiap buku dan menyaring persyaratan baru ini. Oleh karena itu, kami menggunakan apa yang kami yakini sebagai proses yang dapat dipertahankan untuk mengidentifikasi buku-buku yang harus dihapus dari koleksi pada awal tahun ajaran 23-24.”