Kami belum siap menghadapi dampak AI generatif terhadap pemilu

Pakar kepresidenan ZDNET mendalami deepfake kampanye politik di era AI generatif. Hal ini berdampak lebih dari sekedar kontes nasional. AI juga akan mengubah politik lokal.

Apakah semua ini membuatmu ingin menangis? Nah, George Washington juga menangis di sini.

Pernahkah Anda mendengar tentang George Washington yang tidak mendukung Perang Revolusi?

Saat menjabat sebagai jenderal yang memimpin pasukan pemberontak, George Washington yakin Perang Kemerdekaan Amerika adalah sebuah kesalahan. Dia "jauh dari keyakinan bahwa kita pantas untuk sukses".

Pada tahun 1777, seorang tentara yang bertugas di bawah Jenderal Inggris Oliver De Lancey menemukan sebuah koper milik Jenderal Washington. Kopernya berisi serangkaian surat buatan Washington yang menceritakan keinginannya untuk berdamai dengan Inggris dan bahkan, "Saya mencintai raja saya."

Koper itu ditemukan di tangan pelayan Washington (dan budak) William Lee, ketika Lee ditangkap oleh Inggris.

Inilah bukti nyata bahwa Washington sendiri tidak mendukung perang tersebut.

Bertahun-tahun kemudian, pada tahun 1795 ketika Washington mengajukan petisi kepada Senat untuk meratifikasi Perjanjian Jay dengan Perancis, surat-surat tersebut dikutip sebagai bukti bahwa kesetiaan Washington tidak dapat dipercaya dan bahwa ia tidak terlalu peduli dengan demokrasi. Hal ini membuat pengesahan Perjanjian Jay menjadi sangat sulit.

Kecuali… William Lee tidak pernah ditangkap oleh Inggris. Faktanya, William Lee tidak pernah meninggalkan pihak Washington selama Perang Revolusi. Surat-surat itu dibuat dengan hati-hati, palsu, setara dengan deepfake pada abad ke-18.

Hal ini sangat menghantui Washington sehingga dia menulis -- sebagai salah satu tindakan terakhirnya saat menjabat -- sebuah bantahan atas pemalsuan tersebut dalam sebuah surat kepada Menteri Luar Negeri AS Timothy Pickering.

Dari George Washington hingga Washington, DC

Maju ke tahun 2018. Saya akan menyentuh topik-topik yang bermuatan politik. Untuk sesaat, mohon abaikan politiknya, dan fokuslah pada hal-hal tersebut sebagai contoh adanya disinformasi. Itulah topik artikel ini. Disinformasi merugikan semua pihak. Namun untuk menunjukkan kepada Anda apa yang terjadi, saya harus memberikan contoh nyata. Dan itu berarti saya harus menyebutkan politisi.

Jadi ini dia…

Contoh 1: Kampanye disinformasi yang didukung Kremlin

Komite Intelijen DPR, yang menyelidiki pemilihan presiden tahun 2016, memasang lebih dari 3.500 iklan yang berisi klaim palsu yang dirancang untuk mengganggu sistem politik Amerika.

Iklan tersebut diproduksi dan dibeli oleh kelompok troll yang didukung Kremlin antara tahun 2015 dan 2017. Selain iklan yang dibeli, Komite Intelijen DPR menyatakan bahwa setidaknya ada "80.000 konten media sosial organik" yang diproduksi oleh kepentingan Rusia.

Contoh 2: Video modifikasi yang memalsukan perilaku mabuk

Selanjutnya, kita akan berhenti di tahun 2019 untuk melihat video yang menunjukkan Ketua DPR Nancy Pelosi melontarkan kata-katanya dan tampak mabuk. Ini diambil dari video Pelosi yang berpidato di acara Center for American Progress (“lembaga pemikir” yang berhaluan liberal).

Video tersebut, yang dibagikan di Facebook lebih dari 45.000 kali dan menampung lebih dari 23.000 komentar, adalah palsu. Video aslinya telah diedit untuk "membuat suaranya terdengar kacau dan menyesatkan" dan membuatnya tampak mabuk.

Persenjataan AI generatif dalam kampanye politik

Foto, video, audio, dan bahkan surat tulisan tangan semuanya telah dipalsukan selama bertahun-tahun demi tipu muslihat politik. Meskipun kualitasnya bervariasi berdasarkan keterampilan para pemalsu, praktik ini bukanlah hal baru.

Ingatlah hal itu saat kita melanjutkan ke diskusi tentang deepfake di era AI generatif. Peggy Noonan, yang pada kehidupan sebelumnya adalah penulis pidato utama Presiden Ronald Reagan, menulis ini di kolom Wall Street Journal-nya:

Hampir di setiap pertemuan, kecerdasan buatan muncul. Menurut saya, orang-orang mendekati AI dengan rasa takut yang muncul karena komitmen pragmatis untuk memanfaatkan AI sebaik-baiknya, dan melihat apa yang bisa dilakukan AI untuk membuat hidup lebih baik. Hal ini tidak dapat dihentikan, sama seperti Anda tidak dapat menghentikan arusnya. Ada perasaan, "Hal ini dapat merusak kode terdalam kanker," dikombinasikan dengan, "Hal ini dapat menyerang kita dan membuat kita terkena nuklir."

Itu kira-kira menyimpulkannya. Saat Noonan melakukan perjalanan di kalangan politik yang jarang ditemui, pernyataan ini adalah bukti bahwa bahkan kalangan politik atas pun memandang AI generatif dengan rasa prihatin.

Tentu saja hal ini tidak menghentikan mereka untuk memanfaatkan teknologi demi keuntungan mereka.

Bulan lalu, pendukung Ron DeSantis, gubernur Florida dan kandidat presiden dari Partai Republik yang saat ini berada di peringkat #2 berdasarkan data jajak pendapat, menggunakan suara yang dihasilkan AI untuk meniru Presiden Trump dalam sebuah iklan yang membuatnya tampak seperti mantan Presiden Partai Republik. menyerang Partai Republik.

Untuk lebih jelasnya, perkataan yang diucapkan AI tersebut berdasarkan postingan nyata Trump di jaringan media sosial Truth Social. Iklan tersebut didanai oleh Never Back Down PAC, yang secara teknis tidak berafiliasi dengan Gubernur DeSantis. Namun, PAC sangat mendukung DeSantis. Agaknya, PAC merasa bahwa menggunakan suara mantan presiden dengan kata-katanya sendiri akan lebih efektif dan realistis dibandingkan penyiar yang menyampaikannya melalui sulih suara.

Dalam iklan lain yang dikaitkan dengan DeSantis, Presiden Trump terlihat sedang memeluk Dr.Anthony Fauci. Ini adalah gambar yang dihasilkan AI. Fauci adalah mantan anggota Satuan Tugas Virus Corona Trump, mantan Kepala Penasihat Medis Presiden, dan -- selama hampir 40 tahun -- Direktur Institut Nasional Alergi dan Penyakit Menular. Fauci, seperti yang diketahui banyak orang, menjadi sosok yang memecah belah pada masa-masa awal pandemi. Kampanye DeSantis rupanya mencoba menghubungkan Trump dengan Fauci demi keuntungan politik.

Tujuan artikel ini bukan untuk memperdebatkan konten iklan politik. Sebaliknya, mereka fokus pada penggunaan AI dan dampaknya di masa depan. Gambar Trump yang sedang memeluk Dr. Fauci menarik perhatian karena dihasilkan oleh AI.

Pada bulan Maret, The New York Times menggambarkan bagaimana Partai Demokrat menguji penggunaan AI untuk menyusun pesan penggalangan dana, dengan "permohonan yang sering kali memiliki kinerja lebih baik daripada yang ditulis seluruhnya oleh manusia."

The Times juga melaporkan gambar palsu yang disiarkan di media sosial yang menunjukkan Presiden Trump ditangkap di New York City.

Meskipun AI terbukti bisa menjadi pengganda kekuatan dalam pemilu nasional, saya memperkirakan AI akan banyak digunakan dalam kampanye di mana anggaran yang lebih rendah memerlukan penggunaan sumber daya yang lebih kreatif. Salah satu kampanye tersebut, seperti dilansir Insider, adalah untuk Walikota Toronto. The Insider membagikan gambar dari selebaran kampanye yang dibuat atas nama kandidat Anthony Furey yang menunjukkan seorang wanita dengan tiga tangan.

Ketika saya melihat surat edaran yang dikutip oleh The Insider secara online, tidak ada gambar yang ditampilkan di artikel tersebut. Saya menduga kesalahan itu telah diperbaiki oleh Furey atau tim kampanyenya. Terlepas dari itu, Furey kalah, berada di urutan keempat, dengan hanya kurang dari 10% suara yang diterima oleh pemenang.

Jadi, meskipun AI dapat membantu menciptakan citra palsu atau mengurangi biaya, hal ini tidak menjamin kemenangan. Tidak ada yang berhasil.

Apa maksudnya semua itu?

Hanya karena sebuah kampanye menggunakan AI generatif bukan berarti kampanye tersebut menggunakan AI generatif sebagai senjata. Ada empat kategori utama penggunaan alat AI generatif dalam kampanye, dan hanya satu yang bersifat negatif.

Kepalsuan dan pemalsuan: Inilah yang paling berpotensi merusak. Setiap kali kampanye memalsukan informasi, tindakan tersebut bersifat merusak dan termasuk dalam kategori trik kotor. Hal yang membuat hal ini semakin meresahkan saat ini adalah AI memungkinkan lebih banyak orang menghasilkan gambar palsu, jadi kita mungkin akan lebih sering melihatnya -- dan bukan hanya dari kampanye.

Membantu menulis iklan dan surat: Harapkan AI membantu staf kampanye menulis iklan dan surat. Meskipun kontennya mungkin berisi kebohongan atau penafsiran yang keliru, hal itu bukanlah hal baru. Pekerja kampanye membengkokkan kebenaran dalam dokumen tertulis jauh sebelum munculnya AI generatif.

Meningkatkan kecepatan dan penyesuaian konten untuk penjangkauan massal: Kampanye yang paling efektif sering kali memiliki database yang mendalam tentang calon pemilih, terutama calon donor. Mereka membeli daftar, mengumpulkan data dari kampanye sebelumnya dan kandidat lainnya, dan berupaya membangun profil yang membantu menargetkan prospek secara tepat. Harapkan AI generatif digunakan untuk mengkalibrasi upaya penjangkauan secara individual ke setiap calon pelanggan, dan melakukannya secara massal.

Melakukan analisis tren dan sentimen untuk mencari wawasan: Di artikel sebelumnya, saya menunjukkan betapa hebatnya AI saat menggali data untuk mendapatkan wawasan. Kampanye sering kali menggunakan perangkat lunak penambangan data tingkat perusahaan, namun mengharapkan kekuatan, kemudahan penggunaan, dan harga alat yang relatif murah seperti ChatGPT Plus dengan Code Interpreter agar kemampuan ini tersedia di semua tingkat kampanye.

Lawrence Pingree, wakil presiden Gartner untuk teknologi dan tren baru - keamanan, menambahkan beberapa wawasan tentang topik ini. Dia mengatakan kepada ZDNET:

Menurut saya, bahaya baru yang terbesar adalah model bahasa besar AI Generatif kini dapat diinstrumentasikan dengan otomatisasi. Otomatisasi tersebut (contoh - AutoGPT, BabyAGI) dapat digunakan untuk melakukan kampanye misinformasi yang berorientasi pada tujuan.

Hal ini mempermudah partai politik atau negara untuk melakukan operasi pengaruh.

LLM juga dapat dipasangkan dengan teknologi deepfake untuk menjalankan kampanye yang bahkan berpotensi menghasilkan audio dan video. Jika diterapkan di media sosial, alat-alat seperti ini dapat menciptakan lingkungan digital yang sangat sulit bagi pemilih yang ingin mengetahui kebenaran.

Ketika melihat AI generatif dalam kampanye, dampak nyata akan terjadi di luar kampanye presiden. Lagipula, kampanye presiden punya banyak uang.

Menurut Komisi Pemilihan Umum Federal, "Kandidat presiden mengumpulkan dan menghabiskan $4,1 miliar dalam 24 bulan siklus pemilu 2019-2020." Menurut Open Secrets, yang melacak pengeluaran pemilu, rata-rata kandidat pemenang Senat AS menghabiskan $15,7 juta, sedangkan rata-rata kandidat DPR menghabiskan $2 juta pada pemilu 2018.

Beberapa kampanye lokal memiliki anggaran kampanye yang relatif besar. Misalnya, menjelang pemilu tahun 2024 untuk Dewan Kota Los Angeles dan Distrik Sekolah Terpadu Los Angeles, kandidat Dewan Kota Distrik 2 Adrin Nazarian telah mengumpulkan $432.000, sementara kandidat LAUSD Distrik 3 Janie Dam telah mengumpulkan $38.000.

Perlu diingat bahwa LA Distrik 2 memiliki jumlah penduduk pada tahun 2020 sebanyak 793.342 jiwa. Secara keseluruhan, LA County sendiri berpenduduk 9,7 juta jiwa. Sebaliknya, kota kecil bersejarah yang saya tinggali di Oregon ini memiliki populasi kurang dari 10.000 orang.

Kampanye-kampanye yang lebih kecil, khususnya kampanye-kampanye di kota-kota sebesar kota saya, memiliki peti perang yang jauh lebih kecil dibandingkan dengan kampanye-kampanye nasional. Alat AI generatif bahkan dapat memberikan alat analisis kampanye terkecil yang sebelumnya hanya tersedia untuk kampanye dengan anggaran enam dan tujuh digit.

Jadi, meskipun kita bisa memperkirakan kampanye presiden akan menggunakan AI untuk menempatkan kandidat lawan pada posisi yang membahayakan (atau, setidaknya, menggambarkan kandidat tersebut dengan cara yang disukai oleh para pendukung daging merah untuk dibagikan melalui media sosial), kita akan melihat dampak terbesar dari generatif. AI jauh di bawah tiket.

Setidaknya sebagai bentuk pertahanan terhadap serangan iklan yang dihasilkan oleh AI, Google kini mewajibkan iklan yang dibuat oleh AI untuk menyertakan penafian yang menyatakan bahwa iklan tersebut diproduksi dengan cara sintetis. Tentu saja, bukan berarti promotor nakal akan mengikuti arahan tersebut. Kemungkinan besar kita masih akan melihat strategi dump-and-run yang dilakukan oleh agen politik dan agen musuh yang memposting ribuan iklan yang dihasilkan oleh AI tanpa penafian, lalu beralih ke akun baru, yang secara efektif mengabaikan persyaratan Google melalui penggunaan kecepatan dan ketangkasan. Selamat datang di perlombaan senjata lainnya.

Pantau terus, karena meskipun trik-trik kotor kampanye sudah ada sejak lama, kita pasti akan melihat lebih banyak lagi trik-trik tersebut sekarang karena setiap orang memiliki akses ke alat yang membuatnya sangat mudah untuk melakukannya.

Apakah semua ini membuatmu ingin menangis? Ingat: George Washington menangis di sini.