Platform penghasil suara AI yang mengejutkan dunia mendapatkan pembaruan untuk melawan penyalahgunaan
Fitur kloning suara ElevenLab telah digunakan untuk kasus penggunaan yang baik dan buruk. Bisakah pembaruan terkini menghentikan penyalahgunaan?
AI Generatif memiliki kemampuan untuk menghasilkan semua jenis konten termasuk teks, seni, gambar, dan bahkan ucapan.
Startup AI, ElevenLabs, telah mendukung pembuatan text-to-speech dan kloning suara sejak peluncuran beta pada bulan Januari dan telah mengumpulkan lebih dari satu juta pengguna terdaftar.
Juga: Meta memperkenalkan Voicebox AI untuk meniru suara teman dan orang yang Anda sayangi
Pada hari Selasa, ElevenLabs mengumumkan penutupan putaran Seri A senilai $19 juta dolar, serta beberapa pembaruan besar pada platform, termasuk pembaruan untuk mengatasi kontroversi terbesarnya.
Sejak diluncurkan, teknologi penghasil suara Elevenlabs mempunyai implikasi positif dan negatif.
Beberapa kegunaan positifnya, seperti yang digambarkan oleh ElevenLabs, termasuk "penulis independen yang membuat buku audio, pengembang menyuarakan karakter dalam video game, mendukung tunanetra untuk mengakses konten tertulis online, dan mendukung saluran radio AI pertama di dunia."
Meskipun kasus penggunaan ini bersifat positif dan memajukan proses bisnis di banyak industri yang berbeda, terdapat pula penerapan yang sama merugikannya.
Alat kloning suara, yang mengambil cuplikan suara seseorang untuk menghasilkan audio baru, telah digunakan untuk tujuan jahat, membuat tokoh masyarakat seolah-olah melontarkan pernyataan yang mengerikan dan diskriminatif.
Beberapa minggu setelah merilis versi beta, ElevenLabs segera melalui Twitter untuk mengatasi "kasus penyalahgunaan kloning suara". Perusahaan menyarankan cara-cara potensial untuk mengatasi masalah ini seperti verifikasi akun tambahan, memverifikasi hak cipta atas suara, memindahkan kloning suara ke tingkat berbayar, dan bahkan memverifikasi setiap permintaan secara manual.
Juga: Vimeo menambahkan serangkaian alat AI untuk membuat pembuatan video jauh lebih mudah
Hari ini, mereka merilis ke publik apa yang tampaknya menjadi solusi perusahaan terhadap masalah ini, yaitu AI Speech Classifier. Alat ini akan dapat menguraikan apakah audio yang diunggah berisi audio yang dihasilkan AI dari ElevenLabs atau tidak.
“Peluncuran AI Speech Classifier adalah langkah terbaru dalam dorongan perusahaan terhadap transparansi, dan ini merupakan landasan komitmen mereka untuk menciptakan lanskap media generatif yang aman,” kata ElevenLabs dalam rilisnya.
Menurut postingan sebelumnya yang mengumumkan alat tersebut, alat tersebut mempertahankan akurasi >99% dalam mengidentifikasi kapan audio tidak dimodifikasi.
Namun, jika audio mengalami transformasi Codec atau reverb, akurasinya turun hingga lebih dari 90%, dan semakin banyak konten diproses, semakin banyak pula akurasinya, menurut rilisnya.
Alat ini tidak akan mencegah penyalahgunaan dan mungkin hanya membantu menjernihkan kebingungan setelah kerusakan awal terjadi. Efektivitasnya dalam memecahkan masalah ini dipertanyakan, namun ini hanyalah sebuah langkah kecil.
Ini bukan pertama kalinya teknologi generasi AI disalahgunakan untuk menyasar tokoh masyarakat. Misalnya, generator musik AI mampu menghasilkan kolaborasi Drake dan The Weekend yang terdengar nyata meskipun tidak ada artis yang benar-benar ikut serta dalam lagu tersebut.
Juga: Dapatkah musik yang dihasilkan AI memenangkan penghargaan musik? Grammy mengungkapkan aturan baru
Seni AI dan generator gambar juga telah digunakan untuk menghasilkan gambar palsu dan realistis dari tokoh masyarakat yang melakukan aktivitas tertentu. Beberapa dari gambar-gambar ini telah digunakan secara negatif sebagai propaganda politik sementara yang lainnya hanya digunakan untuk tujuan hiburan, seperti meme Paus Fransiskus dalam mantel puffer.
Selain AI Speech Classifier, ElevenLabs juga mengumumkan hadirnya "Proyek" pada rangkaian produknya.
"Proyek" adalah alur kerja untuk mengedit dan membuat konten lisan berdurasi panjang yang tersedia untuk akses awal sekarang. Ini dimaksudkan sebagai toko serba ada untuk kebutuhan pengeditan audio dan memberikan "tingkat kesederhanaan Google Docs" untuk pembuatan audio, menurut rilis tersebut.
Penambahan fitur "Proyek" serupa dengan yang kita lihat di platform kreativitas lain, seperti Vimeo, TikTok, dan Adobe Express. Tujuan dari semua platform ini adalah untuk menerapkan AI dengan cara yang mengoptimalkan alur kerja pengguna dan memungkinkan pembuatan konten yang lebih mudah dan optimal.