Microsoft menambahkan perlindungan Desainer baru setelah bencana deepfake Taylor Swift

Celah yang memungkinkan pembuatan gambar telah ditambal.

Generator gambar AI berpotensi memacu kreativitas dan merevolusi pembuatan konten menjadi lebih baik. Namun, jika disalahgunakan, hal tersebut dapat menimbulkan kerugian nyata melalui penyebaran informasi yang salah dan kerusakan reputasi. Microsoft berharap dapat mencegah penyalahgunaan lebih lanjut alat AI generatifnya melalui penerapan perlindungan baru.

Pekan lalu, deepfake yang menampilkan seksualitas Taylor Swift yang dibuat oleh AI menjadi viral di Twitter. Gambar-gambar tersebut dilaporkan dibagikan melalui 4chan dan saluran Telegram di mana pengguna berbagi gambar selebritas yang dibuat oleh AI yang dibuat dengan Microsoft Designer.

Microsoft Designer adalah aplikasi desain grafis Microsoft yang mencakup Image Creator, generator gambar AI perusahaan yang memanfaatkan DALLE-3 untuk menghasilkan gambar realistis. Generator tersebut memiliki pagar pembatas yang mencegah perintah tidak pantas yang secara eksplisit menyebutkan ketelanjangan atau tokoh masyarakat.

Namun, pengguna menemukan celah seperti salah mengeja nama selebriti dan mendeskripsikan gambar yang tidak secara eksplisit menggunakan istilah seksual tetapi memberikan hasil yang sama, menurut laporan tersebut.

Microsoft kini telah mengatasi celah ini, sehingga mustahil untuk menghasilkan gambar selebriti. Saya mencoba memasukkan perintah, "Selena Gomez bermain golf," di Image Creator dan menerima peringatan yang mengatakan perintah saya diblokir. Saya juga mencoba salah mengeja namanya dan mendapat peringatan yang sama.

“Kami berkomitmen untuk memberikan pengalaman yang aman dan terhormat bagi semua orang,” kata juru bicara Microsoft kepada ZDNET. “Kami terus menyelidiki gambar-gambar ini dan telah memperkuat sistem keselamatan yang ada untuk mencegah layanan kami disalahgunakan untuk membantu menghasilkan gambar-gambar seperti itu.”

Selain itu, Kode Etik Microsoft Designer secara eksplisit melarang pembuatan konten intim dewasa atau non-konsensual, dan pelanggaran terhadap kebijakan tersebut dapat mengakibatkan hilangnya akses ke layanan sepenuhnya.

Beberapa pengguna telah menyatakan minatnya untuk mencari solusi terhadap perlindungan baru ini di saluran Telegram, menurut laporan tersebut. Jadi, ini mungkin akan menjadi permainan kucing-kucingan antara pelaku jahat yang menemukan dan mengeksploitasi celah dalam alat AI generatif dan perusahaan di balik alat ini yang sudah lama bergegas memperbaikinya.