OpenAI membagikan pembaruan keamanan setelah pengaduan pelapor, tuntutan anggota parlemen
Dalam rangkaian X, raksasa AI ini menjelaskan 'bagaimana kami memprioritaskan keselamatan dalam pekerjaan kami.' Inilah yang baru.
Keamanan adalah salah satu kekhawatiran terbesar seputar pesatnya pertumbuhan model kecerdasan buatan generatif. Keluhan setebal tujuh halaman yang diajukan oleh pelapor dan diperoleh The Washington Post mengenai praktik keselamatan OpenAI semakin meningkatkan kekhawatiran ini. Oleh karena itu, OpenAI kini membagikan informasi terkini mengenai inisiatif keselamatannya kepada publik.
Pada hari Selasa, OpenAI melalui X, sebelumnya Twitter, berbagi kumpulan pembaruan tentang "bagaimana kami memprioritaskan keselamatan dalam pekerjaan kami." Thread ini mencakup highlight dari inisiatif terkini dan pembaruan proyek saat ini.
Memastikan AI dapat memberikan manfaat bagi semua orang dimulai dengan membangun AI yang bermanfaat dan aman. Kami ingin menyampaikan beberapa informasi terbaru tentang bagaimana kami memprioritaskan keselamatan dalam pekerjaan kami.
OpenAI memulai dengan menyoroti Kerangka Kesiapsiagaan, yang pertama kali dirilis dalam versi beta pada bulan Desember. Kerangka kerja ini mencakup berbagai tindakan pencegahan yang diambil OpenAI untuk memastikan keamanan model AI terdepannya, seperti memberikan kartu skor model pada metrik yang berbeda dan tidak merilis model baru jika model tersebut melewati ambang risiko "sedang".
Bersamaan dengan itu, OpenAI menyampaikan bahwa mereka secara aktif mengembangkan "level" untuk membantu OpenAI dan pemangku kepentingan mengkategorikan dan melacak kemajuan AI, yang akan dibagikan lebih detail oleh perusahaan "segera".
OpenAI juga memberikan pembaruan pada Komite Keselamatan dan Keamanannya, yang awalnya diluncurkan oleh dewan direksi OpenAI pada bulan Mei untuk menambahkan lapisan checks and balances pada operasinya. Peninjauan yang dilakukan oleh komite, yang mencakup para ahli teknis dan kebijakan, kini sedang berlangsung. Setelah selesai, OpenAI akan membagikan langkah-langkah lebih lanjut yang akan diambilnya.
Terakhir, OpenAI memberikan perhatian pada kebijakan pelapor pelanggarannya, yang “melindungi hak karyawan untuk melakukan pengungkapan yang dilindungi,” menurut perusahaan tersebut. Untuk mendorong perbincangan mengenai teknologi ini, perusahaan juga mengubah proses keluarnya karyawannya, dan menghapus istilah-istilah yang tidak bersifat meremehkan.
OpenAI membagikan kabar terbaru ini hanya satu hari setelah anggota parlemen AS meminta agar OpenAI membagikan data mengenai praktik keselamatannya setelah laporan pelapor pelanggaran. Beberapa poin utama dalam laporan tersebut termasuk bahwa OpenAI mencegah staf untuk memperingatkan pihak berwenang mengenai risiko teknologi dan membuat karyawan melepaskan hak federal mereka atas kompensasi pelapor, yang keduanya dibahas dalam postingan X.