Zoom terjerat dalam kekacauan privasi AI

Perubahan kebijakan privasi dan AI terbaru dari platform konferensi video populer ini telah berdampak besar pada perusahaan. Inilah yang perlu diketahui.

Apakah ada yang membaca syarat dan ketentuan layanan perangkat lunak? Pengacara melakukannya, tetapi bahkan mata mereka pun diketahui berkaca-kaca. Jadi hingga saat ini, tidak ada seorang pun yang mengetahui bahwa Zoom telah mengubah Persyaratan Layanan (ToS) pada bulan Maret 2023. Berdasarkan ketentuan barunya, Zoom mengklaim hak untuk menggunakan data video, audio, dan chat Anda untuk program kecerdasan buatan (AI) miliknya. .

Pribadi? Keamanan? Apa itu?

Tepatnya, ketentuan baru ini memberi Zoom hak atas "data, konten, file, dokumen, atau materi lainnya (secara kolektif disebut 'Masukan Pelanggan') dalam mengakses atau menggunakan Layanan atau Perangkat Lunak, dan Zoom dapat menyediakan, membuat, atau menyediakan kepada Anda, berdasarkan kebijakannya sendiri atau sebagai bagian dari Layanan, turunan, transkrip, analitik, keluaran, tampilan visual, atau kumpulan data tertentu yang dihasilkan dari Masukan Pelanggan (bersama dengan Masukan Pelanggan, 'Konten Pelanggan')."

Apa yang dimaksud dengan hak "Konten Pelanggan"? Pertama, “Zoom dapat mendistribusikan ulang, menerbitkan, mengimpor, mengakses, menggunakan, menyimpan, mengirimkan, meninjau, mengungkapkan, melestarikan, mengekstrak, memodifikasi, memperbanyak, membagikan, menggunakan, menampilkan, menyalin, mendistribusikan, menerjemahkan, menyalin, membuat karya turunan, dan memproses Konten Pelanggan."

Tapi tunggu, masih ada lagi. Anda juga memberi Zoom "lisensi yang bersifat abadi, mendunia, non-eksklusif, bebas royalti, dapat disublisensikan, dan dapat dipindahtangankan serta semua hak lain yang diperlukan atau diperlukan untuk mendistribusikan ulang, menerbitkan, mengimpor, mengakses, menggunakan, menyimpan, mengirimkan, meninjau, mengungkapkan, melestarikan , mengekstrak, memodifikasi, mereproduksi, berbagi, menggunakan, menampilkan, menyalin, mendistribusikan, menerjemahkan, menyalin, membuat karya turunan, dan memproses Konten Pelanggan dan melakukan semua tindakan sehubungan dengan Konten Pelanggan: (i) sebagaimana diperlukan untuk Zoom untuk memberikan Layanan kepada Anda, termasuk untuk mendukung Layanan; (ii) untuk tujuan pengembangan produk dan layanan, pemasaran, analitik, jaminan kualitas, pembelajaran mesin, kecerdasan buatan, pelatihan, pengujian, peningkatan Layanan, Perangkat Lunak, atau Produk, layanan, dan perangkat lunak Zoom lainnya."

Reaksi terhadap semua ini, ketika orang-orang baik di forum Ycombinator, akselerator startup teknologi, mengetahuinya, bisa dikatakan, tidak senang. Atau, seperti yang dikatakan oleh salah satu komentator, "Saya, misalnya, tidak menyambut tuan dystopian kita."

Setelah keributan selama akhir pekan, Zoom mengubah Ketentuan Layanannya. Kini, Zoom pinky bersumpah: "Meskipun demikian, Zoom tidak akan menggunakan Konten Pelanggan audio, video, atau obrolan untuk melatih model kecerdasan buatan kami tanpa persetujuan Anda."

Uh huh.

Chief Product Officer Zoom Smita Hashim menjelaskan dalam sebuah postingan blog bahwa perusahaan tidak akan benar-benar melakukan hal-hal yang dijelaskan dalam ToS-nya. Benar, Zoom akan menggunakan sebagian data Anda untuk pembelajaran mesin. Namun menurut postingan blog tersebut, "Untuk AI, kami tidak menggunakan konten audio, video, atau obrolan untuk melatih model kami tanpa persetujuan pelanggan."

Tapi apakah klausa dan blog yang ditempel itu ada artinya? Sean Hogle, seorang pengacara bisnis dan kekayaan intelektual, berpendapat tidak. Di Ycombinator, ia menulis, "Pengacara Zoom mencoba mengambil tindakan cepat dengan Ketentuan yang telah direvisi ini. Kalimat baru mengenai persetujuan pengguna yang diwajibkan untuk melatih AI hanya berlaku untuk 'Konten Pelanggan', bukan 'Data yang Dihasilkan Layanan'." Zoom bisa menggunakan data ini, yang diperoleh dari konferensi dan materi Anda, tanpa persetujuan Anda.

Hogle melanjutkan, "Di situlah letak masalahnya.'"Data yang Dihasilkan Layanan'='data telemetri apa pun, data penggunaan produk, data diagnostik, dan konten atau data serupa yang dikumpulkan atau dihasilkan oleh Zoom sehubungan dengan penggunaan Anda atau Pengguna Akhir Anda atas Dengan menggunakan data ini, Hogle menyimpulkan, "'Klarifikasi' ini tidak berarti apa-apa untuk meredakan masalah privasi data serius yang ditimbulkan oleh penggunaan konten video pengguna yang diambil oleh Zoom."

Dalam postingan blognya, Hashim melanjutkan, "Kami tidak akan menggunakan konten pelanggan, termasuk catatan pendidikan atau informasi kesehatan yang dilindungi, untuk melatih model kecerdasan buatan kami tanpa persetujuan Anda." Tentu saja, hal tersebut sudah dilindungi oleh Undang-Undang Hak Pendidikan dan Privasi Keluarga (FERPA) dan Undang-Undang Portabilitas dan Akuntabilitas Asuransi Kesehatan (HIPAA), jadi itu bukan masalah besar. Departemen Kehakiman akan mengawasi mereka karena hal itu.

Tentu saja, untuk menggunakan beberapa fitur AI Zoom, seperti Zoom IQ, yang menawarkan ringkasan rapat otomatis, Anda harus setuju untuk mengizinkan Zoom menggunakan data Anda. Anda juga tidak memiliki kendali apa pun atas privasi rapat jika Anda hanya menghadiri rapat dan orang yang mengadakan rapat telah setuju untuk membiarkan Zoom mengawasi virtual Anda untuk membuat catatannya sendiri.

Hanya sedikit orang yang senang dengan hal ini. Seperti yang dikatakan oleh analis Constellation Research, Dion Hinchcliffe, "Zoom tentu saja menyentuh kegelisahan utama pasar ketika Ketentuan Layanannya yang baru-baru ini diperbarui memberikannya lisensi yang pada dasarnya tidak terbatas pada semua konten pengguna (video, audio, teks) yang melewati platformnya… Kekhawatiran terbesarnya adalah IP pelanggan dan informasi pribadi orang-orang akan disimpan dalam model seperti itu, sehingga dapat disalahgunakan."

Larry Dignan, mantan Pemimpin Redaksi ZDNET dan saat ini Pemimpin Redaksi Constellation Research, menambahkan, "Namun persyaratan layanan tetap memberikan lisensi kepada Zoom, apa pun yang terjadi… Vendor harus melakukan yang terbaik untuk mengambil tindakan tegas dengan data pelanggan. Mereka yang tidak Jika kita tidak membangun dan mempertahankan tingkat kepercayaan yang tinggi terhadap data pelanggan, kita tidak akan mendapatkan manfaat dari revolusi AI yang akan datang."

Allen Drennan, salah satu pendiri dan pimpinan Cordoniq, sebuah perusahaan pertemuan virtual, setuju. Dalam sebuah email, Drennan menulis, “Ketika organisasi swasta mengunggah informasi rahasia internal dan kekayaan intelektual ke dalam sebuah pertemuan, mereka tidak mempertimbangkan konsekuensi dari penyediaan data mereka kepada penyedia pihak ketiga yang dikelola di cloud yang tidak mereka kendalikan. tidak hanya terbatas pada layar bersama atau dokumen rahasia bersama multi-halaman. Hal ini juga diperluas hingga rekaman rapat serta audio dan video yang digunakan dalam rapat. Anda benar-benar harus memiliki kendali atas keamanan dan privasi."

Hinchcliffe menambahkan di Twitter, atau X, Zoom masih mengambil "lisensi 'abadi, mendunia' untuk semua konten pelanggan sehingga Anda dapat 'meninjau, mengungkapkan, melestarikan, mengekstrak, memodifikasi, mereproduksi, berbagi, menggunakan, menampilkan, menyalin, mendistribusikan, menerjemahkan, menyalin, membuat karya turunan.' Itu tidak masuk akal dan terlalu banyak menjangkau konten pelanggan."

Siapa yang bisa membantah hal itu? Selain Zoom tentunya.

Pada tahun 2021, Zoom setuju untuk membayar $85 juta dalam gugatan class action karena berbagi data pengguna dengan pihak ketiga yang tidak sah seperti Facebook, Google, dan LinkedIn dan salah menggambarkan kekuatan protokol enkripsi ujung ke ujung.

Pada tahun yang sama, Zoom membuat kesepakatan dengan Komisi Perdagangan Federal (FTC), yang mengharuskannya untuk "menerapkan program keamanan yang komprehensif, meninjau setiap pembaruan perangkat lunak untuk mengetahui kelemahan keamanannya sebelum dirilis, dan memastikan pembaruan tersebut tidak akan menghambat keamanan pihak ketiga." fitur." FTC juga mewajibkan Zoom untuk tidak salah menggambarkan praktik pengumpulan datanya.

Menurut John Davisson, direktur litigasi di kelompok advokasi Pusat Informasi Privasi Elektronik (EPIC), dalam komentarnya kepada The Washington Post, hal ini "tampaknya merupakan pelanggaran besar, dan ini adalah sesuatu yang perlu dicermati oleh FTC." Perwakilan Jan Schakowsky (D-Ill.), menambahkan, "Zoom memiliki rekam jejak yang buruk dalam melindungi data konsumen dan memenuhi janjinya -- seperti yang dibuktikan oleh perintah persetujuan dan penyelesaian tahun 2021."

Semuanya tergantung pada apakah Anda merasa nyaman berbagi informasi pribadi dengan Zoom. Meskipun Zoom terbukti bermanfaat selama pandemi, jawaban bagi banyak perusahaan dan organisasi yang menghadapi ancaman privasi AI baru ini tampaknya adalah tidak. Seperti yang ditweet oleh Eliot Higgins, pendiri Bellingcat Productions, "Kami menjalankan lokakarya pelatihan kami di Zoom, jadi Zoom secara efektif berencana untuk melatih AI-nya di seluruh konten lokakarya kami tanpa kompensasi, jadi selamat tinggal Zoom."

Saya yakin mereka bukan satu-satunya yang mengucapkan selamat tinggal pada Zoom.