Para pemimpin AI menandatangani pernyataan untuk secara terbuka mengakui bahaya AI

Kecerdasan buatan mampu membuat manusia punah, menurut para pemimpin industri dan peneliti.

Sam Altman bersaksi tentang AI.

Pada bulan Maret, sebuah surat terbuka yang dipelopori oleh para pakar industri teknologi berupaya menghentikan pengembangan model AI yang canggih karena khawatir teknologi tersebut dapat menimbulkan "risiko besar bagi masyarakat dan kemanusiaan".

Minggu ini, sebuah pernyataan ditandatangani oleh CEO OpenAI Sam Altman, "ayah baptis" AI Geoffrey Hinton, dan lainnya yang berupaya mengurangi risiko yang ditimbulkan AI yang mendorong umat manusia menuju kepunahan. Kata pengantar pernyataan tersebut mendorong para pemimpin industri untuk mendiskusikan ancaman AI yang paling parah secara terbuka.

Menurut pernyataan tersebut, risiko AI terhadap umat manusia sangat parah sehingga sebanding dengan pandemi global dan perang nuklir. Penanda tangan lainnya adalah peneliti dari Google DeepMind, Kevin Scott, chief technology officer Microsoft, dan Bruce Schneier, pionir keamanan internet.

Model bahasa besar (LLM) saat ini yang dipopulerkan oleh ChatGPT Altman belum dapat mencapai kecerdasan umum buatan (AGI). Namun, para pemimpin industri khawatir tentang kemajuan LLM ke titik tersebut. AGI adalah sebuah konsep yang mendefinisikan makhluk dengan kecerdasan buatan yang dapat menyamai atau melampaui kecerdasan manusia.

AGI adalah pencapaian yang diharapkan dapat dicapai oleh OpenAI, Google DeepMind, dan Anthropic suatu hari nanti. Namun masing-masing perusahaan menyadari bahwa akan ada konsekuensi yang signifikan jika teknologi mereka mencapai AGI.

Altman mengatakan dalam kesaksiannya di depan Kongres awal bulan ini bahwa ketakutan terbesarnya adalah bahwa AI "menyebabkan kerugian yang signifikan bagi dunia", dan bahwa kerugian ini dapat terjadi dalam berbagai cara.

Beberapa minggu sebelumnya, Hinton tiba-tiba mengundurkan diri dari posisinya di mana dia bekerja pada jaringan saraf di Google, dan mengatakan kepada CNN bahwa dia "hanya seorang ilmuwan yang tiba-tiba menyadari bahwa hal-hal ini menjadi lebih pintar dari kita."