OpenAI sedang membangun jaringan tim merah untuk menangani keamanan AI - dan Anda dapat mengajukan permohonan
Anggota Jaringan Tim Merah OpenAI akan diberi kompensasi atas waktu mereka dan pengalaman sebelumnya dengan model bahasa tidak diperlukan.
ChatGPT OpenAI telah mengumpulkan lebih dari 100 juta pengguna secara global, menyoroti kasus penggunaan AI yang positif dan perlunya lebih banyak regulasi. OpenAI kini membentuk tim untuk membantu membangun model yang lebih aman dan tangguh.
Pada hari Selasa, OpenAI mengumumkan bahwa mereka meluncurkan Jaringan Tim Merah OpenAI yang terdiri dari para ahli yang dapat membantu memberikan wawasan untuk menginformasikan penilaian risiko dan strategi mitigasi perusahaan untuk menerapkan model yang lebih aman.
Jaringan ini akan mengubah cara OpenAI melakukan penilaian risiko menjadi proses yang lebih formal yang melibatkan berbagai tahap siklus model dan pengembangan produk, dibandingkan dengan “proses keterlibatan dan seleksi satu kali sebelum penerapan model besar,” menurut OpenAI.
OpenAI sedang mencari ahli dari berbagai latar belakang untuk membentuk tim, termasuk keahlian domain di bidang pendidikan, ekonomi, hukum, bahasa, ilmu politik, dan psikologi, dan masih banyak lagi.
Namun OpenAI mengatakan pengalaman sebelumnya dengan sistem AI atau model bahasa tidak diperlukan.
Para anggota akan diberi kompensasi atas waktu mereka dan tunduk pada perjanjian kerahasiaan (NDA). Karena mereka tidak akan terlibat dengan setiap model atau proyek baru, menjadi anggota tim merah bisa jadi hanya sekedar komitmen waktu lima jam setahun. Anda dapat mendaftar untuk menjadi bagian dari jaringan melalui situs OpenAI.
Selain kampanye tim merah OpenAI, para ahli dapat terlibat satu sama lain dalam “praktik dan temuan tim merah” secara umum, menurut postingan blog tersebut.
“Jaringan ini menawarkan peluang unik untuk membentuk pengembangan teknologi dan kebijakan AI yang lebih aman, serta dampak AI terhadap cara kita hidup, bekerja, dan berinteraksi,” kata OpenAI.
Kerja sama merah merupakan proses penting untuk menguji efektivitas dan memastikan keamanan teknologi baru. Raksasa teknologi lainnya, termasuk Google dan Microsoft, telah mendedikasikan tim merah untuk model AI mereka.