Google dan Microsoft bermitra dengan OpenAI untuk membentuk kelompok pengawas keamanan AI

Disebut Frontier Model Forum, kemitraan ini terjadi setelah pertemuan Gedung Putih minggu lalu dengan perusahaan yang sama, ditambah Amazon dan Meta, untuk membahas pengembangan AI di masa depan yang aman dan transparan.

Beberapa nama besar di bidang teknologi bersatu untuk membantu menjaga keamanan AI. Raksasa teknologi Google dan Microsoft bermitra dengan OpenAI dan Anthropic untuk memastikan bahwa teknologi AI berkembang dengan cara yang "aman dan bertanggung jawab".

Kemitraan ini terjadi setelah pertemuan Gedung Putih minggu lalu dengan perusahaan yang sama, ditambah Amazon dan Meta, untuk membahas pengembangan AI di masa depan yang aman dan transparan.

Kelompok pengawas, yang disebut Frontier Model Forum, mencatat bahwa meskipun beberapa pemerintah di seluruh dunia mengambil langkah-langkah untuk menjaga keamanan AI, langkah-langkah tersebut tidaklah cukup. Sebaliknya, terserah pada perusahaan teknologi.

Dalam postingan blog di situs Google, forum tersebut mencantumkan empat tujuan utama:

• Meningkatkan penelitian keamanan AI untuk meminimalkan risiko di masa depan
• Mengidentifikasi praktik terbaik untuk pengembangan dan penerapan model masa depan yang bertanggung jawab
• Bekerja sama dengan pembuat kebijakan, akademisi, dan pihak lain untuk berbagi pengetahuan tentang risiko keselamatan AI
• Mendukung pengembangan penggunaan AI dalam memecahkan masalah terbesar umat manusia seperti perubahan iklim dan deteksi kanker

Seorang perwakilan OpenAI menambahkan bahwa meskipun forum tersebut akan bekerja sama dengan para pembuat kebijakan, mereka tidak akan terlibat dalam lobi pemerintah.

Keanggotaan dalam forum ini terbuka bagi perusahaan mana pun yang memenuhi tiga kriteria: mengembangkan dan menerapkan model frontier, menunjukkan komitmen kuat terhadap keselamatan model frontier, dan kesediaan untuk berpartisipasi dalam inisiatif bersama dengan anggota lainnya. Apa yang dimaksud dengan "model perbatasan?" Forum tersebut mendefinisikannya sebagai "model pembelajaran mesin berskala besar yang melampaui kemampuan saat ini dan memiliki beragam kemampuan."

Meskipun AI mempunyai potensi untuk mengubah dunia, forum tersebut mengatakan, “pagar pembatas yang tepat diperlukan untuk memitigasi risiko.” Anna Makanju, wakil presiden urusan global di OpenAI, mengeluarkan pernyataan: "Sangat penting bagi perusahaan-perusahaan AI -- terutama mereka yang bekerja pada model yang paling kuat -- menyelaraskan diri pada landasan yang sama. Ini adalah pekerjaan yang mendesak. Dan forum ini berada pada posisi yang tepat. untuk bertindak cepat guna meningkatkan keamanan AI."

Presiden Microsoft Brad Smith juga menyampaikan sentimen serupa, dengan mengatakan bahwa pada akhirnya semua tergantung pada perusahaan yang menciptakan teknologi AI agar mereka tetap aman dan berada di bawah kendali manusia.