Bagaimana Apple, Google, dan Microsoft dapat menyelamatkan kita dari deepfake AI

Untuk memerangi disinformasi yang disebabkan oleh AI, raksasa teknologi harus berkolaborasi untuk mengadopsi standar terbuka ini. Absennya Apple dan X menimbulkan kekhawatiran.

Maraknya konten yang dihasilkan oleh AI telah membawa inovasi dan kepedulian ke permukaan media digital. Gambar, video, dan rekaman suara yang sangat realistis -- yang dulu merupakan karya desainer dan insinyur ahli -- kini dapat dibuat oleh siapa saja yang memiliki akses ke alat seperti DALL-E, Midjourney, dan Sora. Teknologi ini telah mendemokratisasi pembuatan konten, memungkinkan seniman, pemasar, dan penghobi untuk mendorong batas-batas kreatif.

Namun, aksesibilitas ini memunculkan sisi gelapnya -- disinformasi, pencurian identitas, dan penipuan. Pelaku kejahatan dapat menggunakan alat ini untuk menyamar sebagai tokoh masyarakat, menyebarkan berita palsu, atau memanipulasi publik demi keuntungan politik atau finansial.

Keputusan Disney untuk menciptakan kembali suara James Earl Jones secara digital untuk film-film Star Wars masa depan adalah contoh nyata bahwa teknologi ini mulai digunakan secara umum. Meskipun hal ini menunjukkan potensi AI dalam bidang hiburan, hal ini juga berfungsi sebagai pengingat akan risiko yang ditimbulkan oleh teknologi replikasi suara jika dieksploitasi untuk tujuan yang merugikan.

Ketika konten yang dihasilkan AI mengaburkan batas antara kenyataan dan manipulasi, raksasa teknologi seperti Google, Apple, dan Microsoft harus memimpin upaya untuk menjaga keaslian dan integritas konten. Ancaman yang ditimbulkan oleh pemalsuan yang mendalam bukanlah sebuah hipotesis -- ini adalah kekhawatiran yang berkembang pesat yang memerlukan kolaborasi, inovasi, dan standar yang ketat.

Peran C2PA dalam keaslian konten

Koalisi untuk Asal dan Keaslian Konten, yang dipimpin oleh Linux Foundation, adalah badan standar terbuka yang berupaya membangun kepercayaan pada media digital. Dengan menyematkan metadata dan tanda air ke dalam file gambar, video, dan audio, spesifikasi C2PA memungkinkan pelacakan dan verifikasi asal, pembuatan, dan modifikasi konten digital apa pun.

Dalam beberapa bulan terakhir, Google telah meningkatkan keterlibatannya secara signifikan dengan C2PA, dengan bergabung dalam komite pengarah. Langkah ini menyusul keputusan Meta untuk bergabung dengan komite yang sama pada awal September 2024, yang menandai peningkatan signifikan dalam partisipasi industri.

Google kini mengintegrasikan Kredensial Konten C2PA ke dalam layanan intinya, termasuk Google Penelusuran, Iklan, dan, pada akhirnya, YouTube. Dengan memungkinkan pengguna melihat metadata dan mengidentifikasi apakah suatu gambar telah dibuat atau diubah menggunakan AI, Google bertujuan untuk memerangi penyebaran konten yang dimanipulasi dalam skala besar.

Microsoft juga telah menyematkan C2PA ke dalam alat andalannya, seperti Designer dan CoPilot, memastikan bahwa semua konten AI yang dibuat atau dimodifikasi tetap dapat dilacak. Langkah ini melengkapi pekerjaan Microsoft pada Project Origin, yang menggunakan tanda tangan kriptografi untuk memverifikasi integritas konten digital, menciptakan pendekatan berlapis-lapis terhadap asal usulnya.

Meskipun Google dan Microsoft telah mengambil langkah signifikan dengan mengadopsi teknologi sumber konten seperti C2PA, ketidakhadiran Apple dalam inisiatif ini menimbulkan kekhawatiran mengenai komitmen Apple terhadap upaya penting ini. Meskipun Apple secara konsisten memprioritaskan privasi dan keamanan dalam program seperti Apple Intelligence, kurangnya keterlibatan publik dalam C2PA atau teknologi serupa meninggalkan kesenjangan yang nyata dalam kepemimpinan industri. Dengan berkolaborasi dengan Google dan Microsoft, Apple dapat membantu menciptakan front yang lebih bersatu dalam melawan disinformasi yang didorong oleh AI dan memperkuat pendekatan keseluruhan terhadap keaslian konten.

Anggota C2PA lainnya

Selain Google, Microsoft, dan Meta, beberapa organisasi utama berkontribusi pada komite pengarah C2PA. Adobe dan OpenAI juga telah bergabung dalam komite ini, memainkan peran penting dalam memajukan teknologi asal konten. Adobe, salah satu anggota pendiri, mengintegrasikan Kredensial Konten ke dalam aplikasi Creative Cloud yang populer, termasuk Photoshop, Lightroom, dan Express, memastikan keaslian konten sejak saat pembuatan. Adobe Firefly, model AI generatif Adobe, juga melampirkan Kredensial Konten ke semua keluaran yang dihasilkan AI, sehingga semakin meningkatkan transparansi.

OpenAI menjadi anggota komite pengarah pada bulan Mei 2024 dan telah mulai melampirkan Kredensial Konten pada gambar yang dihasilkan oleh DALL·E 3. Perusahaan berencana untuk memperluas kemampuan ini ke keluaran video yang dihasilkan oleh model teks-ke-video Sora, sehingga memperluas jangkauan konten asal di seluruh jenis media.

Selain itu, TikTok bergabung dengan C2PA sebagai anggota umum pada awal tahun ini, menjadi platform media sosial pertama yang menerapkan Kredensial Konten. Langkah perintis ini menggarisbawahi komitmen TikTok terhadap transparansi, dengan menggunakan kredensial untuk memberi label pada konten yang dihasilkan AI pada platformnya.

Organisasi-organisasi ini dan organisasi lain seperti Intel, Arm, Truepic, BBC, dan Sony mewakili berbagai industri yang berkomitmen untuk mengadopsi standar C2PA dan memastikan keaslian konten di seluruh ekosistem digital.

Menciptakan ekosistem end-to-end untuk verifikasi konten

Ikhtisar arsitektur C2PA

Menciptakan ekosistem menyeluruh untuk verifikasi konten

Untuk mengelola deepfake dan konten yang dihasilkan AI secara efektif, ekosistem menyeluruh yang komprehensif untuk verifikasi konten harus dibangun. Ekosistem ini mencakup sistem operasi, alat pembuatan konten, layanan cloud, dan platform sosial, memastikan bahwa media digital dapat diverifikasi di setiap tahap siklus hidupnya.

Sistem operasi seperti Windows, macOS, iOS, Android, dan sistem tertanam untuk perangkat dan kamera IoT harus mengintegrasikan C2PA sebagai pustaka inti. Hal ini akan memastikan bahwa setiap file media yang dibuat, disimpan, atau dimodifikasi pada sistem ini secara otomatis menyertakan metadata, mengamankan keasliannya dan mencegah manipulasi konten.
Sistem operasi yang tertanam di perangkat seperti kamera dan perekam suara, yang menghasilkan media dalam jumlah besar, sangatlah penting. Misalnya, rekaman keamanan atau rekaman suara yang diambil oleh perangkat ini harus diberi tanda air untuk mencegah gangguan. Mengintegrasikan C2PA memastikan ketertelusuran konten, apa pun aplikasi yang digunakan.
Platform pembuatan konten seperti Adobe Creative Cloud, Microsoft Office, dan Final Cut Pro harus menerapkan standar C2PA dalam layanan mereka. Adobe telah mengintegrasikan Kredensial Konten ke dalam alat populer seperti Photoshop, Lightroom, dan Firefly, model AI generatifnya. Alat sumber terbuka seperti GIMP juga harus mengadopsi standar ini untuk mendorong proses verifikasi yang konsisten di seluruh platform profesional dan amatir.
Platform cloud, termasuk Google Cloud, Azure, AWS, Oracle Cloud, dan Apple iCloud, harus mengadopsi C2PA untuk memastikan bahwa konten yang dibuat oleh AI dan dihosting di cloud dapat dilacak sejak konten tersebut dibuat. Alat AI berbasis cloud menghasilkan media digital dalam jumlah besar, dan mengintegrasikan C2PA akan memastikan bahwa kreasi ini dapat diverifikasi sepanjang siklus hidupnya.
SDK aplikasi seluler harus menyertakan C2PA sebagai bagian dari API intinya, memastikan bahwa semua media yang dibuat atau diedit di ponsel cerdas dan tablet segera diberi tanda air dan dapat diverifikasi. Baik untuk fotografi, pengeditan video, atau perekaman suara, aplikasi harus memastikan konten penggunanya tetap autentik dan dapat dilacak.

Ekosistem media sosial dan aplikasi

Platform media sosial seperti Meta, TikTok, X, dan YouTube adalah beberapa saluran distribusi konten digital terbesar. Ketika platform-platform ini terus mengintegrasikan kemampuan AI generatif, peran mereka dalam verifikasi konten menjadi semakin penting. Besarnya skala konten buatan pengguna dan meningkatnya kreasi media berbasis AI menjadikan platform ini penting untuk memastikan keaslian media digital.

Baik X dan Meta telah memperkenalkan alat GenAI untuk menghasilkan gambar. Grok 2 xAI yang baru dirilis memungkinkan pengguna membuat gambar yang sangat realistis dari perintah teks. Namun, kebijakan ini masih belum memiliki batasan untuk mencegah pembuatan konten yang kontroversial atau menyesatkan, seperti penggambaran tokoh masyarakat yang realistis. Kurangnya pengawasan ini menimbulkan kekhawatiran tentang kemampuan X dalam mengelola misinformasi, terutama mengingat keengganan Elon Musk untuk menerapkan moderasi konten yang kuat.

Demikian pula, alat Imagine with Meta dari Meta, yang didukung oleh model pembuatan gambar Emu dan Llama 3 AI, menyematkan GenAI langsung ke platform seperti Facebook, WhatsApp, Instagram, dan Threads. Mengingat dominasi X dan Meta dalam pembuatan konten berbasis AI, mereka harus dianggap bertanggung jawab dalam menerapkan alat asal konten yang kuat yang menjamin transparansi dan keaslian.

Meskipun Meta bergabung dengan komite pengarah C2PA, Meta belum sepenuhnya menerapkan standar C2PA di seluruh platformnya, sehingga meninggalkan kesenjangan dalam komitmennya terhadap integritas konten. Meskipun Meta telah membuat kemajuan dalam memberi label pada gambar yang dihasilkan AI dengan tag "Dibayangkan dengan AI" dan menyematkan tanda air dan metadata C2PA dengan konten yang dihasilkan pada platformnya, kemajuan ini belum meluas ke seluruh aplikasinya, termasuk menyediakan rantai asal untuk diunggah materi yang telah dibuat atau diubah secara eksternal, sehingga melemahkan kemampuan Meta untuk menjamin kepercayaan media yang dibagikan di seluruh platformnya.

Sebaliknya, X sama sekali tidak terlibat dengan C2PA, sehingga menciptakan kerentanan yang signifikan dalam ekosistem verifikasi konten yang lebih luas. Kegagalan platform dalam mengadopsi standar verifikasi konten dan kemampuan Grok dalam menghasilkan gambar yang tidak terkendali membuat pengguna terpapar pada media yang realistis namun menyesatkan. Kesenjangan ini menjadikan X sasaran empuk misinformasi dan disinformasi, karena pengguna tidak memiliki alat untuk memverifikasi asal atau keaslian konten yang dihasilkan AI.

TikTok menjadi platform media sosial pertama yang menerapkan Kredensial Konten C2PA. Sebagai bagian dari komitmennya terhadap transparansi, TikTok telah mengintegrasikan Kredensial Konten untuk memberi label pada media yang dihasilkan AI pada platformnya, sehingga menjadi preseden penting untuk diikuti oleh platform lain. Sebagai anggota C2PA, adopsi awal TikTok menandakan langkah signifikan dalam memastikan keaslian konten di seluruh lanskap media sosial.

Dengan mengadopsi standar C2PA, Meta dan X dapat melindungi penggunanya dan ekosistem digital yang lebih luas dengan lebih baik dari risiko yang ditimbulkan oleh manipulasi media yang dihasilkan oleh AI. Tanpa langkah-langkah tersebut, tidak adanya sistem verifikasi konten yang kuat akan meninggalkan kesenjangan penting dalam upaya perlindungan terhadap disinformasi, sehingga memudahkan pelaku kejahatan untuk mengeksploitasi platform ini. Masa depan pembuatan konten berbasis AI harus mencakup alat asal yang kuat untuk memastikan transparansi, keaslian, dan akuntabilitas.

Memperkenalkan blockchain yang dapat ditelusuri untuk aset digital

Blockchain yang dapat ditelusuri dapat membangun sistem anti-rusak untuk melacak aset digital guna meningkatkan verifikasi konten. Setiap modifikasi yang dilakukan pada suatu media dicatat dalam buku besar blockchain, memastikan transparansi dan keamanan mulai dari pembuatan hingga distribusi. Sistem ini akan memungkinkan pembuat konten, platform, dan pengguna untuk memverifikasi integritas media digital, terlepas dari berapa kali media tersebut dibagikan atau diubah.

Hash kriptografi: Setiap konten akan diberi hash kriptografi unik pada saat pembuatan. Setiap modifikasi berikutnya memperbarui hash, yang kemudian dicatat di blockchain.
Catatan yang tidak dapat diubah: Buku besar blockchain -- yang dikelola oleh anggota C2PA seperti Google, Microsoft, dan pemangku kepentingan utama lainnya -- akan memastikan bahwa setiap pengeditan pada media tetap terlihat dan dapat diverifikasi. Hal ini akan menciptakan riwayat siklus hidup konten yang permanen dan tidak dapat diubah.
Rantai pengawasan: Setiap perubahan pada suatu konten akan dicatat, sehingga membentuk rantai pengawasan yang tidak terputus. Hal ini akan memastikan bahwa meskipun konten dibagikan, disalin, atau dimodifikasi, keaslian dan asal-usulnya selalu dapat ditelusuri kembali ke sumbernya.

Dengan menggabungkan standar C2PA dengan teknologi blockchain, ekosistem digital akan mencapai transparansi yang lebih tinggi, sehingga lebih mudah untuk melacak media yang dihasilkan dan diubah oleh AI. Sistem ini akan menjadi perlindungan penting terhadap deepfake dan misinformasi, membantu memastikan bahwa konten digital tetap dapat dipercaya dan autentik.

Pengumuman baru-baru ini oleh Linux Foundation untuk membentuk inisiatif Kepercayaan Terdesentralisasi, yang mencakup lebih dari 100 anggota pendiri, semakin memperkuat model ini. Sistem ini akan menciptakan kerangka kerja untuk memverifikasi identitas digital di seluruh platform, meningkatkan upaya penelusuran blockchain dan menambahkan lapisan akuntabilitas dengan memungkinkan identitas digital yang aman dan dapat diverifikasi. Hal ini akan memastikan bahwa pembuat konten, editor, dan distributor diautentikasi di seluruh siklus hidup konten.

Jalur ke depan untuk asal konten

Upaya kolaboratif antara Google, Microsoft, dan Apple sangat penting untuk melawan munculnya disinformasi yang disebabkan oleh AI. Meskipun Google, Microsoft, dan Meta sudah mulai mengintegrasikan standar C2PA ke dalam layanan mereka, ketidakhadiran Apple dan X dalam upaya ini meninggalkan kesenjangan yang signifikan. Kerangka kerja Linux Foundation, yang menggabungkan ketertelusuran blockchain, asal konten C2PA, dan verifikasi identitas terdistribusi, menawarkan solusi komprehensif untuk mengelola tantangan konten yang dihasilkan AI.

Dengan mengadopsi teknologi ini di seluruh platform, industri teknologi dapat memastikan transparansi, keamanan, dan akuntabilitas yang lebih baik. Penyematan solusi-solusi ini akan membantu memerangi deepfake dan menjaga integritas media digital, menjadikan kolaborasi dan standar terbuka penting untuk membangun masa depan digital yang tepercaya.