Alat baru Google dapat mendeteksi gambar yang dihasilkan AI, namun tidak sesederhana itu

Alat ini dibuat oleh tim DeepMind sebagai langkah menuju AI yang bertanggung jawab.

Alat ini dapat mendeteksi gambar yang dihasilkan AI bahkan setelah diedit, diubah warna, atau ditambahkan filter.

Gambar yang dihasilkan oleh alat kecerdasan buatan menjadi lebih sulit dibedakan dengan gambar yang dibuat manusia. Gambar yang dihasilkan oleh AI dapat menyebarkan misinformasi dalam skala besar, sehingga menyebabkan penggunaan AI yang tidak bertanggung jawab. Untuk mencapai tujuan tersebut, Google meluncurkan alat SynthID baru yang dapat membedakan gambar yang dihasilkan AI dengan gambar buatan manusia.

Alat yang dibuat oleh tim DeepMind ini menambahkan tanda air digital yang tidak terlihat pada gambar yang dihasilkan AI -- seperti tanda tangan. Alat yang sama nantinya dapat mendeteksi tanda air ini untuk menunjukkan gambar mana yang dibuat oleh AI, bahkan setelah modifikasi, seperti menambahkan filter, mengompresi, mengubah warna, dan banyak lagi.

SynthID menggabungkan dua model pembelajaran mendalam menjadi satu alat. Yang satu secara visual menambahkan tanda air ke konten asli dengan cara yang tidak terlihat oleh mata telanjang, dan yang lainnya mengidentifikasi gambar yang diberi tanda air.

Saat ini, SynthID tidak dapat mendeteksi semua gambar yang dihasilkan AI, karena terbatas pada gambar yang dibuat dengan alat text-to-image Google, Imagen. Namun hal ini merupakan pertanda masa depan yang menjanjikan bagi AI yang bertanggung jawab, terutama jika perusahaan lain mengadopsi SynthID ke dalam alat AI generatif mereka.

Alat ini akan diluncurkan secara bertahap kepada pelanggan Vertex AI yang menggunakan Imagen dan hanya tersedia di platform ini. Namun, Google DeepMind berharap dapat segera menyediakannya di produk Google lainnya dan pihak ketiga.