AI Generatif Adalah Penipuan yang Meningkatkan Kekuatan (Begini Cara dan Hal yang Harus Diwaspadai)

Poin Penting

Penipu semakin kreatif dengan produk palsu dan sulih suara yang dihasilkan AI untuk memikat pembeli yang tidak menaruh curiga.
Penipu aplikasi kencan menggunakan chatbot AI untuk menargetkan korban; ulasan palsu menjadi lebih mudah dengan model bahasa yang besar.
Seiring dengan kemajuan teknologi AI, akan semakin sulit membedakan konten asli dan palsu; selalu teliti sebelum membeli secara online.

Istilah “penipuan” berlaku untuk segala hal, mulai dari serangan bertarget yang canggih hingga iklan pra-putar yang cerdik di situs streaming video favorit Anda. Kabar buruknya adalah rekayasa penipuan ini semakin mudah.

Demokratisasi Gambar Palsu

Ada garis tipis namun jelas antara penipuan dan spam, namun kedua bidang tersebut sering kali tumpang tindih. Hal ini terutama berlaku ketika berhubungan dengan periklanan online, baik saat Anda menjelajahi web atau menelusuri media sosial. Pengiklan tidak menyetujui setiap iklan yang mereka tampilkan, melainkan mengandalkan laporan pengguna untuk menyingkirkan pelaku kejahatan.

Jika Anda menghabiskan banyak waktu online, Anda mungkin melihat iklan-iklan cerdik yang tak terhitung jumlahnya setiap hari. Mungkin yang paling menarik adalah produk-produk yang tidak ada dan merupakan fabrikasi yang dibuat dengan tangan atau menggunakan AI generatif seperti DALL-E atau Midjourney.

Memikat calon pembeli dengan produk palsu bukanlah hal baru, namun pada suatu saat, Anda memerlukan visi, keterampilan Photoshop, dan sedikit waktu luang. Dengan hadirnya generator teks-ke-gambar, Anda dapat menghabiskan waktu sesedikit atau sebanyak yang Anda inginkan untuk memasukkan perintah ke dalam generator gambar hingga Anda mendapatkan hasil yang Anda cari. Langit adalah batasnya dalam hal jenis produk yang dapat Anda hasilkan.

Pada bulan April 2024 Snopes melaporkan bahwa sejumlah besar penipuan “Cat’s Eye Dazzle” melanda media sosial seperti badai. Penipuan tersebut melibatkan pembuatan bunga palsu yang terlihat seperti kucing, untuk menarik pengguna di jejaring sosial seperti Facebook. Daftar eBay muncul untuk mendapatkan benih, sementara “vendor” lainnya menggunakan portal belanja yang dihosting sendiri untuk mendapatkan uang tunai.

Bagi sebagian orang, fakta bahwa bunga-bunga ini adalah bunga palsu yang dihasilkan oleh AI sudah jelas terlihat. Penipuan serupa lainnya tidak terlalu mengada-ada. Saluran YouTube Atomic Shrimp membuat video yang mendokumentasikan fenomena tersebut, mengeksplorasi daftar mawar biru dan bunga matahari “asli” yang terdengar lebih masuk akal, yang keduanya tidak ada.

Bunga yang terlihat seperti kucing dan tanaman dengan warna yang mustahil hanyalah dua contoh penipuan yang tampaknya telah menarik perhatian ratusan bahkan ribuan orang. Gambar-gambar ini membutuhkan waktu beberapa detik untuk dibuat, dan beberapa detik lagi untuk diposting di Facebook.

AI Voices Memberikan Kredibilitas pada Video

Anda mungkin sangat menyadari munculnya fitur teks menjadi suara, dengan platform sosial seperti TikTok yang memudahkan pembuatan sulih suara yang terdengar alami namun juga mudah dipahami. Saat ini, suara “wanita TikTok” adalah tentang branding TikTok dan juga merupakan alat yang berguna bagi pembuat konten.

Namun suara AI lebih dari itu. ChatGPT dapat menghasilkan sulih suara jika Anda membayar untuk tingkat premium, dan layanan seperti ElevenLabs menyediakan tingkatan gratis. Saya telah melihat saluran YouTube kecil yang dijalankan oleh pembuat konten yang merasa tidak nyaman berbicara di depan kamera beralih ke suara yang dihasilkan oleh AI. Hal ini mungkin menggelikan tetapi setidaknya didasarkan pada niat baik.

Kaitan utamanya adalah sulih suara memberikan kredibilitas pada video Anda. Beberapa tahun yang lalu Anda perlu meluangkan waktu dan tenaga atau dana untuk menambahkan sulih suara ke video Anda. Anda memerlukan peralatan dan latihan atau pengisi suara sewaan. Kini semuanya semudah menulis naskah yang Anda sukai dan memilih suara yang ingin Anda gunakan.

Hal ini membuat iklan penipuan untuk skema cepat kaya dan produk dropship menjadi lebih kredibel. Jika iklan tersebut terdengar seperti iklan asli, Anda mungkin cenderung lebih percaya pada produk tersebut. Orang-orang yang menjalankan iklan ini mengetahui hal ini, itulah sebabnya terjadi ledakan praktik ini selama setahun terakhir.

Untuk saat ini, tidak terlalu sulit untuk mengidentifikasi sulih suara yang dihasilkan AI. Infleksi dan pengucapan mungkin terdengar seperti robot, dan ritme alami ucapan manusia kurang tepat. Bersiaplah, karena alat-alat ini hanya akan menjadi lebih baik dan pada akhirnya Anda tidak akan dapat membedakannya.

Penipu Aplikasi Kencan Menjaring Lebih Luas

Terpancing dengan produk palsu dan sulih suara robot adalah satu hal, namun bagaimana dengan penipuan yang menargetkan Anda secara pribadi? Hal itulah yang terjadi dalam dunia kencan online dalam skala besar, berkat kekuatan model bahasa besar yang dapat berkomunikasi seperti orang sungguhan (ya, cukup dekat).

Dengan menggunakan chatbot yang didukung AI, para penipu dapat menggunakan jaring yang luas untuk menjerat korbannya dengan menggunakan perangkat lunak yang secara efektif dapat menunda percakapan cukup lama untuk menarik perhatian seseorang. Ada beberapa cara yang digunakan, dan semuanya terasa invasif.

Beberapa menggunakan chatbot untuk mengirim pesan kepada banyak orang, dan kemudian menindaklanjutinya dengan harapan dapat bertemu seseorang yang benar-benar mereka sukai. Di awal tahun 2024, tak terhitung banyaknya laporan seorang pria yang bertemu istrinya menggunakan teknik ini. Percaya atau tidak, ada banyak sekali aplikasi dan layanan seluler yang menjanjikan untuk mengobrol dengan calon mitra untuk Anda (tentu saja dengan biaya tertentu).

Segalanya menjadi lebih mengerikan ketika alat-alat ini digunakan untuk menemukan target penipuan keuangan. Penipu online telah lama mengeksploitasi keinginan dasar manusia untuk berteman dalam upaya mengambil uang dari merek mereka. Sekarang mereka dapat memanfaatkan chatbot untuk mereka, mengambil alih ketika mereka merasa diperlukan.

Pasangkan ini dengan generator gambar AI yang memberi Anda akses ke wajah cantik asli sebanyak yang Anda inginkan, dan penipu bahkan tidak perlu lagi mencuri foto profil kencan orang lain.

Video AI Segera Hadir

Teks-ke-video yang meyakinkan belum tersedia secara luas pada saat artikel ini ditulis, namun dengan adanya alat seperti OpenAI SORA, hal ini akan menjadi kekuatan yang harus diperhitungkan. Hanya dengan satu perintah, alat OpenAI dapat menghasilkan gambar bergerak yang tampak realistis (meskipun jika Anda perhatikan dengan cermat, Anda dapat menemukan kekurangannya).

Video yang dibuat oleh AI hanya akan memperburuk masalah yang ditimbulkan oleh konten lain yang dibuat oleh AI. Melalui penggunaan kecerdasan buatan yang terus berkembang, tidak sulit membayangkan masa depan di mana Anda dapat menghasilkan gambar produk palsu, video produk tersebut digunakan di lokasi yang relevan oleh orang “nyata”, dan sulih suara untuk video yang dapat Anda gunakan. untuk mengiklankannya.

Jika Anda merasa sangat ingin bertualang, Anda dapat menggunakan model bahasa besar untuk meningkatkan reputasi produk Anda…

AI Bahkan Bisa Memalsukan Ulasan

Ulasan palsu bukanlah hal baru. Kita semua pernah melihatnya dan banyak dari kita yang jatuh cinta padanya (disadari atau tidak). Namun hingga beberapa tahun yang lalu, ulasan palsu memerlukan upaya. Dengan munculnya model bahasa yang besar, ulasan palsu dapat menulis sendiri dalam skala besar.

Penyalahgunaan model bahasa besar untuk menghasilkan ulasan dan mempromosikan produk atau bisnis adalah satu hal, namun teknologi bekerja dua arah. Bagaimana dengan menggunakan teknologi ini untuk membuat ulasan yang mengkritik produk pesaing secara tidak adil? Membuat screed negatif tidak pernah semudah ini, meskipun Anda harus menyalin-menempelkannya sendiri.

Gabungkan ulasan yang dihasilkan AI dengan penipuan menyikat gigi yang lebih tradisional dan Anda akan mendapatkan label “pembelian terverifikasi” yang dapat dipercaya. Pada akhirnya, terserah pada pemegang platform untuk memerangi gelombang baru konten online yang menyesatkan ini.

Segalanya Hanya Bisa Menjadi Lebih Baik (Lebih Buruk)

Alat-alat ini akan menjadi lebih baik seiring berjalannya waktu, sehingga semakin sulit membedakan mana yang nyata dan mana yang fantastik. Anda harus bijak dalam menggunakan teknologi jika ingin tetap terdepan dari para penipu. Jika Anda memahami apa yang mungkin terjadi, Anda akan lebih siap untuk memahami apa yang nyata dan apa yang tidak.

Facebook sangat banyak menggunakan gambar yang dihasilkan oleh AI, jadi memahami cara mengenali gambar palsu yang dibuat oleh AI adalah keterampilan yang berharga. Anda harus selalu waspada terhadap iklan online, baik Anda menemukannya di situs web favorit atau di jejaring sosial.

Selalu lakukan riset sebelum membeli sesuatu, baik itu sebuah teknologi atau sebungkus benih yang Anda lihat di Facebook. Ironisnya, Anda juga bisa menanyakan chatbot favorit Anda yang menjadi sumber klaimnya.