McAfee meluncurkan detektor audio deepfake AI - namun seberapa andalkah alat tersebut?
Audio yang diubah dapat menandakan penipuan, dan Deepfake Detector berjanji akan menemukannya. Berikut adalah PC yang digunakannya dan berapa biayanya.
Deepfake yang dihasilkan oleh kecerdasan buatan (AI) tersebar luas di internet, memicu segala hal mulai dari penipuan hingga misinformasi politik. Penyedia keamanan siber McAfee kini menjadi entitas terbaru yang mencoba memberikan solusi tersebut -- namun solusi ini tidak cocok untuk semua orang, dan mungkin tidak bisa mencakup semuanya.
Pada hari Rabu, penyedia keamanan siber McAfee meluncurkan Deepfake Detector, alat bertenaga AI yang memindai video untuk mencari tanda-tanda audio yang dihasilkan AI. Menurut rilis tersebut, setelah pengguna ikut serta, detektor secara otomatis memantau apa yang sedang diputar di PC dan memperingatkan pengguna "dalam hitungan detik" jika menemukan audio yang diubah oleh AI -- semuanya tanpa menggunakan perangkat lunak pihak ketiga atau kebutuhan untuk pemeriksaan manual yang dimulai oleh pengguna.
Audio yang diubah dapat mengindikasikan penipuan deepfake, termasuk penipuan yang mengkloning suara orang-orang terkasih untuk mengelabui orang agar membayar uang tebusan palsu atau menyamar sebagai tokoh masyarakat untuk menyebarkan informasi palsu. Rilis McAfee mencatat bahwa proliferasi AI telah memungkinkan penjahat dunia maya untuk menciptakan “penipuan yang lebih meyakinkan, personal, dan dihasilkan oleh AI dalam skala besar.”
“Meskipun tidak semua konten AI dibuat dengan niat jahat, kemampuan untuk mengetahui apakah suatu video asli atau palsu membantu konsumen membuat keputusan yang cerdas dan tepat,” demikian pengumuman McAfee.
"Deepfake Detector hanya menganalisis audio; lebih khusus lagi, ia memindai audio pada video yang diputar di browser dan tidak memindai hal-hal yang melibatkan manajemen hak digital, seperti konten yang Anda temukan di layanan streaming video seperti Netflix atau Disney+," kata McAfee juru bicara mengatakan kepada ZDNET.
Detektor tidak memantau video atau audio apa pun yang diputar di luar PC. “Penelitian ancaman kami menemukan bahwa sebagian besar video deepfake menggunakan audio yang dimanipulasi oleh AI atau dihasilkan oleh AI sebagai cara utama untuk menyesatkan pemirsa. Elemen visual dari video tersebut biasanya dipotong dengan ketat, rekaman asli untuk mengalihkan perhatian pemirsa dari pesan yang mencurigakan,” kata lanjut juru bicara itu.
McAfee menciptakan Deepfake Detector bekerja sama dengan Lenovo khusus untuk PC Copilot+ miliknya, yang berarti Deepfake Detector hanya tersedia di perangkat tersebut, dan pada akhirnya akan berharga setidaknya $10 per tahun.
Menggunakan Neural Processing Unit (NPU) McAfee, model deteksi AI perusahaan menjalankan inferensi, atau proses identifikasi konten ujung ke ujung, sepenuhnya di PC. AI pada perangkat semacam ini memperkuat privasi pengguna dengan menjaga data pribadi tetap berada di luar cloud - sebuah pendekatan yang diambil Apple dengan Apple Intelligence, yang akan diluncurkan ke perangkat pada musim gugur ini.
Tentu saja, detektor tersebut harus mengawasi laptop pengguna agar dapat berfungsi -- namun McAfee menjamin hal ini tidak akan melanggar privasi. “McAfee tidak mengumpulkan atau merekam audio pengguna dengan cara apa pun, dan pengguna selalu memegang kendali dan dapat mengaktifkan atau menonaktifkan deteksi audio sesuai keinginan,” jelas perusahaan dalam rilisnya.
McAfee juga menjelaskan bahwa manfaat menjalankan Deepfake Detector di perangkat mencakup kecepatan pemrosesan yang lebih cepat dan masa pakai baterai yang lebih baik.
Namun apakah deteksi audio AI benar-benar berfungsi?
"Tak perlu lagi bertanya-tanya, apakah ini sebenarnya pemberian selebriti, apakah tawaran investasi ini sah, apakah politisi ini benar-benar mengucapkan kata-kata tersebut?" kata Roma Majumder, wakil presiden senior produk McAfee, dalam rilisnya.
Itu adalah ekspektasi tinggi yang harus ditetapkan. Menerapkan teknologi semacam ini -- betapapun masih dalam tahap awal -- langsung ke perangkat akan lebih mempersiapkan konsumen menghadapi masa depan yang penuh dengan konten yang dihasilkan AI. Namun, seperti yang ditemukan dalam laporan ZDNET, keakuratan dan kemanjuran teknologi deteksi tidak dapat diandalkan, terutama mengingat pesatnya perkembangan AI generatif.
“Teknologi ini menggunakan model yang dilatih pada hampir 200.000 sampel dan memberi konsumen deteksi AI tingkat lanjut, dengan tingkat akurasi 96%,” jelas juru bicara McAfee tentang detektor tersebut.
Bersamaan dengan Deepfake Detector, McAfee juga merilis Smart AI Hub, sebuah sumber daya edukasi keamanan siber bagi konsumen yang bertujuan untuk "membangun kesadaran akan deepfake dan penipuan yang didorong oleh AI," menurut pengumuman tersebut. Pengguna dapat mengirimkan video yang tampak mencurigakan ke hub untuk dianalisis oleh McAfee. Perusahaan mengatakan pihaknya berencana untuk membagikan wawasan yang dihasilkan sebagai sumber daya kepada publik.
Detektor Deepfake kini tersedia dalam bahasa Inggris untuk semua PC Lenovo Copilot+ baru yang dipesan dari situs web Lenovo dan pengecer tertentu di AS, Australia, dan Inggris . Setelah mereka membeli PC, pelanggan dapat menggunakan detektor secara gratis selama 30 hari, setelah itu harga mulai dari $10 untuk tahun pertama.
Fitur ini akan diluncurkan ke lebih banyak negara pada akhir tahun ini.