AI generatif membawa risiko baru bagi semua orang. Inilah cara Anda tetap aman
Organisasi harus memikirkan dampak potensial dari pemanfaatan alat kecerdasan buatan generatif, seperti ChatGPT, sementara konsumen harus mempertimbangkan cara mereka membangun keterlibatan digital.
Pertanyaan-pertanyaan penting masih perlu dijawab mengenai penggunaan kecerdasan buatan (AI) generatif, sehingga bisnis dan konsumen yang ingin mengeksplorasi teknologi ini harus mewaspadai potensi risikonya.
Karena saat ini masih dalam tahap percobaan, dunia usaha harus memikirkan dampak potensial dari pemanfaatan AI generatif, kata Alex Toh, kepala sekolah lokal untuk praktik kekayaan intelektual dan teknologi Baker McKenzie Wong & Leow.
Pertanyaan-pertanyaan kunci yang harus ditanyakan adalah apakah eksplorasi tersebut tetap aman, baik secara hukum maupun dari segi keamanan, kata Toh, yang merupakan Profesional Privasi Informasi Bersertifikat dari Asosiasi Profesional Privasi Internasional. Ia juga merupakan seorang Profesional Etika dan Tata Kelola AI yang bersertifikat dari Singapore Computer Society.
Di tengah meningkatnya minat terhadap AI generatif, pengacara teknologi ini sering menjawab pertanyaan dari klien tentang implikasi hak cipta dan kebijakan yang mungkin perlu mereka terapkan jika mereka menggunakan alat tersebut.
Salah satu bidang utama yang menjadi perhatian, yang juga banyak diperdebatkan di yurisdiksi lain, termasuk AS, UE, dan Inggris, adalah legitimasi pengambilan dan penggunaan data yang tersedia online untuk melatih model AI. Perdebatan lainnya adalah apakah karya kreatif yang dihasilkan oleh model AI, seperti puisi dan lukisan, dilindungi hak cipta, katanya kepada ZDNET.
Terdapat risiko pelanggaran merek dagang dan hak cipta jika model AI generatif membuat gambar yang mirip dengan karya yang sudah ada, terutama ketika model tersebut diperintahkan untuk mereplikasi karya seni orang lain.
Toh mengatakan organisasi ingin mengetahui pertimbangan yang perlu mereka pertimbangkan jika mereka menjajaki penggunaan AI generatif, atau bahkan AI secara umum, sehingga penerapan dan penggunaan alat tersebut tidak menimbulkan tanggung jawab hukum dan risiko bisnis terkait.
Ia mengatakan organisasi-organisasi menerapkan kebijakan, proses, dan langkah-langkah tata kelola untuk mengurangi risiko yang mungkin mereka hadapi. Salah satu klien, misalnya, bertanya tentang tanggung jawab yang mungkin dihadapi perusahaan mereka jika produk generatif bertenaga AI yang ditawarkan tidak berfungsi.
Toh mengatakan perusahaan yang memutuskan untuk menggunakan alat seperti ChatGPT untuk mendukung layanan pelanggan melalui chatbot otomatis, misalnya, harus menilai kemampuannya dalam memberikan jawaban yang diinginkan publik.
Pengacara tersebut menyarankan agar dunia usaha melakukan analisis risiko untuk mengidentifikasi potensi risiko dan menilai apakah risiko tersebut dapat dikelola. Manusia harus ditugaskan untuk membuat keputusan sebelum suatu tindakan diambil dan hanya dilibatkan jika organisasi menentukan bahwa teknologi tersebut sudah cukup matang dan risiko yang terkait dengan penggunaannya rendah.
Penilaian tersebut harus mencakup penggunaan petunjuk, yang merupakan faktor kunci dalam AI generatif. Toh mencatat bahwa pertanyaan serupa dapat dirumuskan secara berbeda oleh pengguna yang berbeda. Dia mengatakan bisnis berisiko menodai merek mereka jika sistem chatbot memutuskan untuk merespons pelanggan yang agresif.
Negara-negara, seperti Singapura, telah menyusun kerangka kerja untuk memandu bisnis di semua sektor dalam mengadopsi AI, dengan tujuan utama untuk menciptakan ekosistem yang dapat dipercaya, kata Toh. Ia menambahkan bahwa kerangka kerja ini harus mencakup prinsip-prinsip yang dapat diadopsi dengan mudah oleh organisasi.
Dalam jawaban tertulis parlemen baru-baru ini mengenai kerangka peraturan AI, Kementerian Komunikasi dan Informasi Singapura menekankan perlunya pengembangan dan penerapan yang “bertanggung jawab”. Dikatakan bahwa pendekatan ini akan memastikan lingkungan yang tepercaya dan aman di mana manfaat AI dapat diperoleh.
Kementerian tersebut menyatakan telah meluncurkan beberapa alat untuk mendorong pendekatan ini, termasuk perangkat pengujian yang dikenal sebagai Verifikasi AI untuk menilai penerapan AI yang bertanggung jawab dan Model Kerangka Tata Kelola AI, yang mencakup isu-isu etika dan tata kelola utama dalam penerapan aplikasi AI. Kementerian mengatakan organisasi seperti DBS Bank, Microsoft, HSBC, dan Visa telah mengadopsi kerangka tata kelola.
Komisi Perlindungan Data Pribadi, yang mengawasi Undang-Undang Perlindungan Data Pribadi Singapura, juga sedang menyusun pedoman nasihat untuk penggunaan data pribadi dalam sistem AI. Pedoman ini akan dirilis berdasarkan Undang-undang dalam tahun ini, menurut kementerian.
Pemerintah juga akan terus memantau perkembangan AI dan meninjau pendekatan peraturan di negara tersebut, serta efektivitasnya untuk "menjunjung tinggi kepercayaan dan keamanan".
Pikirkan penggunaan AI Anda sendiri
Untuk saat ini, ketika lanskap terus berkembang, baik individu maupun bisnis harus mewaspadai penggunaan alat AI.
Organisasi memerlukan proses yang memadai untuk memitigasi risiko, sementara masyarakat umum harus lebih memahami teknologi dan mengenalnya. Setiap teknologi baru memiliki nuansa tersendiri, kata Toh.
Baker & McKenzie tidak mengizinkan penggunaan ChatGPT di jaringannya karena kekhawatiran tentang kerahasiaan klien. Meskipun informasi identitas pribadi (PII) dapat dihapus sebelum data dimasukkan ke model pelatihan AI, masih ada pertanyaan tentang apakah detail kasus mendasar yang digunakan dalam pembelajaran mesin atau platform AI generatif dapat ditanyakan dan diekstraksi. Ketidakpastian ini berarti perlunya pelarangan penggunaannya untuk melindungi data sensitif.
Namun firma hukum tersebut ingin mengeksplorasi penggunaan AI secara umum untuk mendukung pekerjaan pengacaranya dengan lebih baik. Unit pembelajaran AI dalam perusahaan sedang melakukan penelitian mengenai inisiatif potensial dan bagaimana AI dapat diterapkan dalam angkatan kerja, kata Toh.
Saat ditanya bagaimana konsumen harus memastikan data mereka aman bagi dunia usaha seiring dengan meningkatnya penggunaan AI, ia menjawab bahwa biasanya ada jalan hukum jika terjadi pelanggaran, namun ia menekankan bahwa yang lebih penting adalah individu fokus pada cara mereka mengatur keterlibatan digital mereka.
Konsumen harus memilih merek tepercaya yang bertanggung jawab atas data pelanggan mereka dan penggunaannya dalam penerapan AI. Menunjuk pada kerangka AI di Singapura, Toh mengatakan bahwa prinsip intinya berkisar pada transparansi dan penjelasan, yang sangat penting untuk membangun kepercayaan konsumen terhadap produk yang mereka gunakan.
Kemampuan masyarakat untuk mengelola risiko mereka sendiri mungkin sangat penting, terutama karena undang-undang sedang berjuang untuk mengejar ketertinggalan teknologi.
AI, misalnya, berkembang pesat dengan “kecepatan luar biasa” tanpa regulasi yang tepat, kata Cyrus Vance Jr., partner di praktik litigasi dan penegakan pemerintah Amerika Utara milik Baker McKenzie, serta praktik investigasi, kepatuhan, dan etika global. Ia menyoroti perlunya keselamatan masyarakat bergerak seiring dengan perkembangan teknologi.
“Kami tidak mengatur teknologi pada tahun 1990an dan [kami] masih belum mengaturnya hingga saat ini,” kata Vance, mengutip ChatGPT dan AI sebagai contoh terbaru.
Meningkatnya minat terhadap ChatGPT telah memicu ketegangan di UE dan Inggris, terutama dari sudut pandang privasi, kata Paul Glass, kepala keamanan siber Baker & McKenzie di Inggris dan bagian dari tim perlindungan data firma hukum tersebut.
Saat ini UE dan Inggris sedang memperdebatkan bagaimana teknologi harus diatur, apakah undang-undang baru diperlukan atau apakah undang-undang yang sudah ada harus diperluas, kata Glass.
Dia juga menyebutkan risiko terkait lainnya, termasuk pelanggaran hak cipta dan risiko dunia maya, dimana ChatGPT telah digunakan untuk membuat malware.
Negara-negara, seperti Tiongkok dan Amerika Serikat, juga menilai dan meminta masukan dari masyarakat mengenai undang-undang yang mengatur penggunaan AI. Pemerintah Tiongkok bulan lalu merilis rancangan peraturan baru yang dianggap perlu untuk memastikan pengembangan teknologi AI generatif yang aman, termasuk ChatGPT.
Baru minggu ini, Geoffrey Hinton -- yang sering disebut sebagai 'Godfather of AI' -- mengatakan dia meninggalkan perannya di Google agar dia bisa berdiskusi dengan lebih bebas mengenai risiko teknologi yang dia bantu kembangkan. Hinton telah merancang algoritme pembelajaran mesin dan berkontribusi pada penelitian jaringan saraf.
Menguraikan kekhawatirannya mengenai AI, Hinton mengatakan kepada BBC: "Saat ini, apa yang kami lihat adalah hal-hal seperti GPT-4 melampaui jumlah pengetahuan umum yang dimiliki seseorang dan jauh melampaui mereka. Dari segi penalaran , hal ini tidak terlalu bagus, namun hal ini sudah memberikan alasan yang sederhana. Dan mengingat tingkat kemajuannya, kami memperkirakan segalanya akan menjadi lebih baik dengan cukup cepat. Jadi, kami perlu mengkhawatirkan hal tersebut."