Tiongkok menutup rekor pelanggaran data pribadi dan memperdebatkan undang-undang pengenalan wajah

Jumlah kasus kriminal yang dilaporkan yang melibatkan 'pengubahan wajah AI' juga meningkat.

Tiongkok telah menyelesaikan sejumlah besar pelanggaran data pribadi dan sedang mencari masukan dari masyarakat mengenai rancangan undang-undang yang mengatur penggunaan data pengenalan wajah.

Dalam tiga tahun terakhir, polisi Tiongkok menutup 36.000 kasus terkait pelanggaran data pribadi, dan menahan 64.000 tersangka, menurut Kementerian Keamanan Publik. Penangkapan tersebut merupakan bagian dari upaya pemerintah sejak tahun 2020 untuk mengatur internet, yang juga menyita lebih dari 30 juta kartu SIM dan 300 juta akun internet “ilegal”, lapor media milik negara Global Times, mengutip kementerian dalam jumpa pers pada hari Kamis. .

Polisi telah menyelidiki semakin banyak kasus kriminal yang melibatkan pelanggaran data pribadi selama beberapa tahun terakhir, yang menargetkan beberapa industri termasuk layanan kesehatan, pendidikan, logistik, dan e-commerce.

Kasus kriminal yang dilaporkan melibatkan kecerdasan buatan (AI) juga meningkat, kata kementerian tersebut, mengutip insiden pada April 2023 di mana sebuah perusahaan di provinsi Fujian kehilangan 4,3 juta yuan ($596.510) karena peretas yang menggunakan AI untuk mengubah wajah mereka.

Hingga saat ini, lembaga penegak hukum telah menyelesaikan 79 kasus yang melibatkan "perubahan wajah AI".

Dengan pengenalan wajah yang kini banyak digunakan bersamaan dengan kemajuan teknologi AI, pejabat pemerintah mencatat munculnya kasus-kasus yang menyadap data tersebut. Dalam kasus seperti ini, penjahat dunia maya akan menggunakan foto, khususnya yang ditemukan pada kartu identitas, bersama dengan nama pribadi dan nomor ID untuk memfasilitasi verifikasi pengenalan wajah.

Departemen keamanan publik Tiongkok bekerja sama dengan fasilitas negara untuk melakukan penilaian keamanan pengenalan wajah dan teknologi relevan lainnya, serta untuk mengidentifikasi potensi risiko dalam sistem verifikasi pengenalan wajah, menurut kementerian.

Karena sebagian besar ekosistem penjahat dunia maya saling terkait, mulai dari pencurian, penjualan kembali data, hingga pencucian uang, para pejabat pemerintah Tiongkok mengatakan bahwa para penjahat ini telah membentuk pasar "data besar bawah tanah" yang menimbulkan risiko serius terhadap data pribadi dan "tatanan sosial".

Usulan undang-undang nasional untuk mengatur pengenalan wajah

Administrasi Ruang Siber Tiongkok (CAC) awal pekan ini menerbitkan rancangan undang-undang yang secara khusus menangani teknologi pengenalan wajah. Ini menandai pertama kalinya peraturan nasional diperdebatkan untuk teknologi ini, menurut Global Times.

Aturan yang diusulkan akan memerlukan persetujuan pengguna secara “eksplisit atau tertulis” sebelum organisasi dapat mengumpulkan dan menggunakan informasi wajah pribadi. Dunia usaha juga harus menyatakan alasan dan cakupan data yang mereka kumpulkan, dan menggunakan data tersebut hanya untuk tujuan yang telah disebutkan.

Tanpa persetujuan pengguna, tidak ada orang atau organisasi yang diperbolehkan menggunakan teknologi pengenalan wajah untuk menganalisis data pribadi sensitif, seperti etnis, keyakinan agama, ras, dan status kesehatan. Terdapat pengecualian untuk penggunaan tanpa izin, terutama untuk menjaga keamanan nasional dan keselamatan publik serta menjaga kesehatan dan properti individu dalam keadaan darurat.

Organisasi yang menggunakan teknologi ini harus memiliki langkah-langkah perlindungan data untuk mencegah akses tidak sah atau kebocoran data, demikian isi dokumen CAC.

Rancangan undang-undang tersebut lebih lanjut menunjukkan bahwa setiap orang atau organisasi yang menyimpan lebih dari 10.000 kumpulan data pengenalan wajah harus memberi tahu otoritas pemerintah siber terkait dalam waktu 30 hari kerja.

Aturan yang diusulkan menetapkan kondisi di mana sistem pengenalan wajah harus digunakan, termasuk bagaimana sistem tersebut memproses data wajah pribadi dan untuk tujuan apa.

Rancangan undang-undang tersebut juga mengamanatkan perusahaan untuk memprioritaskan penggunaan alat pengenalan non-biometrik alternatif jika alat tersebut memberikan hasil yang setara dengan teknologi berbasis biometrik.

Masyarakat mempunyai waktu satu bulan untuk menyampaikan masukan terhadap rancangan undang-undang tersebut.

Pada bulan Januari, Tiongkok memberlakukan peraturan yang bertujuan untuk mencegah penyalahgunaan teknologi "sintesis mendalam", termasuk deepfake dan realitas virtual. Siapa pun yang menggunakan layanan ini harus memberi label pada gambar tersebut dan tidak memanfaatkan teknologi untuk aktivitas yang melanggar peraturan setempat.

Undang-undang sementara juga akan berlaku minggu depan untuk mengelola layanan AI generatif di negara tersebut. Peraturan-peraturan ini menguraikan berbagai langkah yang berupaya memfasilitasi perkembangan teknologi yang sehat sekaligus melindungi kepentingan nasional dan publik serta hak-hak hukum warga negara dan dunia usaha, kata pemerintah Tiongkok.

Pengembang AI generatif, misalnya, harus memastikan proses pra-pelatihan dan optimalisasi model mereka dilakukan sesuai dengan hukum. Ini termasuk menggunakan data dari sumber sah yang mematuhi hak kekayaan intelektual. Apabila data pribadi digunakan, maka harus mendapat persetujuan dari orang tersebut atau harus dilakukan sesuai ketentuan yang ada. Langkah-langkah juga harus diambil untuk meningkatkan kualitas data pelatihan, termasuk akurasi, objektivitas, dan keragamannya.

Berdasarkan undang-undang sementara, penyedia layanan AI generatif memikul tanggung jawab hukum atas informasi yang dihasilkan dan keamanannya. Mereka perlu menandatangani perjanjian tingkat layanan dengan pengguna layanan mereka, sehingga memperjelas hak dan kewajiban masing-masing pihak.