Bisakah penafian AI di Instagram membantu Anda mengenali influencer yang dihasilkan AI?
AI generatif dapat menghasilkan foto dan video yang hiperrealistis, namun tidak semua orang dapat mendeteksi konten yang dihasilkan AI hanya dengan matanya saja.
Instagram mungkin sedang mengerjakan fitur yang akan memberi tahu pengguna ketika AI telah membuat sebagian atau seluruh postingan yang mereka temukan. Menurut postingan dari peneliti aplikasi Alessandro Paluzzi, postingan yang dibuat oleh AI akan memiliki label pendamping yang menjelaskan bahwa AI berperan dalam pembuatan postingan tersebut.
Namun bisakah label membantu orang mengetahui kapan AI generatif membuat seluruh akun?
Tiga influencer populer di Instagram telah mengumpulkan lebih dari delapan juta pengikut dan menerima kesepakatan merek senilai jutaan dolar. Namun, ketiganya dihasilkan oleh AI. Lil Miquela, Imma, dan Shudu adalah influencer Instagram yang fotonya dihasilkan oleh AI.
Mereka masing-masing menjalani kehidupan yang menyenangkan dan bermitra dengan merek seperti Dior, Calvin Klein, Chanel, dan Prada. Meskipun setiap influencer AI memiliki variasi frasa "persona digital" di bio mereka dan semua foto mereka memiliki kesan lembah yang luar biasa, banyak pemberi komentar dan pengikut percaya bahwa influencer tersebut nyata.
Setiap influencer digital adalah produk dari perusahaan teknologi yang mempekerjakan desainer grafis dan seniman digital untuk membuat gambar influencer dengan bantuan kecerdasan buatan.
Influencer digital menarik bagi merek dan perusahaan pemasaran karena mereka memangkas biaya perjalanan, menghilangkan hambatan bahasa, dan dapat mengubah penampilan mereka agar sesuai dengan merek apa pun dengan mudah.
Lebih penting lagi, influencer digital bukanlah sebuah risiko merek. Mereka tidak memiliki opini atau nilai-nilai politik dan tidak memiliki tweet yang meragukan dari sepuluh tahun lalu. Tidak ada yang dapat dilakukan oleh influencer digital yang dapat membahayakan integritas merek.
Selain itu, influencer digital tidak boleh menua atau melakukan sesuatu terhadap penampilan mereka yang tidak sejalan dengan nilai-nilai merek. Misalnya. Lil Miquela telah berusia 19 tahun sejak membuat akun Instagram-nya pada tahun 2016. Sejak itu, dia berkolaborasi dengan selebriti, menghiasi sampul majalah, dan menghasilkan jutaan dolar.
Namun ketika orang-orang dengan cepat menelusuri postingan Lil Miquela, berapa banyak yang langsung tahu bahwa dia dihasilkan oleh AI? Para ahli mengatakan tidak banyak. Kaum muda merupakan orang-orang yang mudah terpengaruh, dan konten yang mereka lihat secara online membentuk pandangan mereka terhadap diri mereka sendiri dan dunia di sekitar mereka.
Dan dengan influencer digital, mereka dapat tampil sempurna dan menjalani kehidupan ideal setiap saat, yang dapat menambah tekanan dan perasaan tidak nyaman yang didapat remaja saat menelusuri media sosial.
Jadi, apakah Instagram harus "mengeluarkan" Lil Miquela sebagai influencer yang dihasilkan AI, "pemiliknya", atau pengguna Instagram untuk menilai konten yang mereka konsumsi dengan lebih baik? Pemerintah mengatakan mereka harus membentuk lembaga-lembaga baru untuk menerapkan standar yang lebih ketat pada perusahaan teknologi besar.
Big Tech mengatakan peraturan seperti itu dapat menghambat inovasi, dan banyak pengguna percaya bahwa tanggung jawab ada pada perusahaan teknologi dan media sosial.
Label konten yang dihasilkan AI bukanlah pertama kalinya Instagram mencoba membantu pengguna lebih memahami konten yang mereka temukan. Pada tahun 2020, ketika terjadi pergolakan pandemi COVID-19, Instagram memblokir tagar yang menyebarkan misinformasi vaksin dan memberikan informasi tepercaya kepada pengguna tentang COVID-19 dan vaksinnya.
Namun AI generatif tidak semudah menyediakan tautan ke Layanan Kesehatan Nasional atau Pusat Pengendalian dan Pencegahan Penyakit. AI bisa lebih sulit dikenali dan dibendung, dan perusahaan teknologi harus memerangi kemungkinan bahaya misinformasi yang disebarkan oleh AI generatif.