Altman dari OpenAI melihat 'kecerdasan super' sudah dekat - tetapi dia kekurangan detail

Esai Altman bertentangan dengan kritik intelektual terhadap keterbatasan AI dan kekhawatiran terhadap gangguan lingkungan dan sosial.

Altman dari OpenAI melihat prospek "kecerdasan super" dalam waktu delapan tahun, dan sebagai hasilnya akan muncul era baru kemakmuran manusia.

Hanya dalam delapan tahun dari sekarang, kecerdasan buatan (AI) dapat mengarah pada sesuatu yang disebut “superintelligence,” menurut CEO OpenAI Sam Altman.

“Ada kemungkinan bahwa kita akan memiliki kecerdasan super dalam beberapa ribu hari (!); mungkin memerlukan waktu lebih lama, namun saya yakin kita akan mencapainya,” tulis Altman dalam sebuah esai yang diberi judul The Intelligence Age, di situs web atas namanya. Pos tersebut tampaknya menjadi satu-satunya konten di situs web sejauh ini.

Pada hari Senin, Altman memposting link ke postingan di X (sebelumnya Twitter), yang menerima 12.000 suka dan 2.400 repost pada Selasa sore:

Era Intelijen: https://t.co/vuaBNwp2bD

- Sam Altman (@sama) 23 September 2024

Altman telah menggunakan istilah superintelligence dalam wawancara, seperti yang dilakukannya dengan Financial Times setahun yang lalu. Altman cenderung menyamakan superintelligence dengan upaya luas, di dunia akademis dan industri, untuk mencapai "kecerdasan umum buatan" (AGI), yaitu komputer yang dapat berpikir sebaik atau lebih baik dari manusia.

Dalam esai sepanjang 1.100 kata, Altman mengemukakan alasan untuk menyebarkan AI ke sebanyak mungkin orang, sebagai kemajuan dalam "infrastruktur masyarakat" yang akan memungkinkan terjadinya lompatan dramatis dalam kesejahteraan manusia.

“Dengan kemampuan baru ini, kita dapat berbagi kemakmuran hingga tingkat yang tidak terbayangkan saat ini,” tulis Altman.

“Di masa depan, kehidupan setiap orang bisa lebih baik dibandingkan kehidupan siapa pun saat ini. Kemakmuran saja tidak selalu membuat orang bahagia - ada banyak orang kaya yang menderita - namun hal ini akan meningkatkan kehidupan banyak orang di seluruh dunia.”

Esai Altman tidak membahas detail teknis dan memberikan beberapa klaim luas tentang AI:

• AI adalah puncak dari "ribuan tahun penggabungan penemuan ilmiah dan kemajuan teknologi" yang berpuncak pada penemuan dan penyempurnaan chip komputer secara berkelanjutan.
• Bentuk AI "pembelajaran mendalam" yang memungkinkan terjadinya AI generatif telah bekerja dengan sangat baik, meskipun ada komentar dari pihak yang skeptis.
• Semakin banyak daya komputasi yang memajukan algoritme pembelajaran mendalam yang terus memecahkan masalah, sehingga "AI akan menjadi lebih baik seiring dengan skalanya".
• Sangat penting untuk terus meningkatkan infrastruktur komputer untuk menyebarkan AI ke sebanyak mungkin orang.
• AI tidak akan menghancurkan lapangan kerja, namun memungkinkan adanya jenis pekerjaan baru dan membawa kemajuan pada ilmu pengetahuan yang belum pernah ada sebelumnya, serta bantuan pribadi, seperti tutor yang dipersonalisasi untuk siswa.

Esai Altman bertentangan dengan banyak kekhawatiran populer tentang dampak etika, sosial, dan ekonomi AI yang semakin meningkat dalam beberapa tahun terakhir.

Gagasan bahwa peningkatan komputasi akan menghasilkan semacam superintelligence atau AGI bertentangan dengan apa yang telah disimpulkan oleh banyak pakar AI, seperti, misalnya, kritikus Gary Marcus, yang berpendapat bahwa AGI, atau sejenisnya, sama sekali tidak ada. di cakrawala jika hal itu dapat dicapai.

Gagasan Altman bahwa penskalaan AI adalah jalan utama menuju AI yang lebih baik masih kontroversial. Pakar dan pengusaha AI terkemuka Yoav Shoham mengatakan kepada ZDNET bulan lalu bahwa peningkatan komputasi tidak akan cukup untuk meningkatkan AI. Sebaliknya, Shoham menganjurkan eksplorasi ilmiah di luar pembelajaran mendalam.

Pandangan optimis Altman juga tidak menyebutkan sejumlah isu bias AI yang diangkat oleh para pakar teknologi, juga tidak menyebutkan konsumsi energi pusat data AI yang berkembang pesat dan diyakini banyak orang menimbulkan risiko lingkungan yang serius.

Ahli lingkungan hidup Bill McKibbon, misalnya, menulis bahwa “tidak mungkin kita dapat mengembangkan energi terbarukan dengan cukup cepat untuk memenuhi permintaan tambahan seperti ini” melalui AI, dan bahwa “dalam dunia yang rasional, ketika dihadapkan pada keadaan darurat, kita akan menundanya.” menskalakan AI untuk saat ini."

Pemilihan waktu penulisan esai Altman patut diperhatikan karena muncul setelah beberapa kritik terkemuka terhadap AI yang baru-baru ini diterbitkan. Kritik tersebut mencakup Taming Silicon Valley karya Marcus, yang diterbitkan bulan ini oleh MIT Press, dan AI Snake Oil, oleh pakar ilmu komputer Princeton Arvind Narayanan dan Sayash Kapoor, yang diterbitkan bulan ini oleh Princeton Pers Universitas.

Dalam Taming Silicon Valley, Marcus memperingatkan risiko besar dari sistem AI generatif yang tidak terkekang oleh kendali masyarakat:

Dalam kasus terburuk, AI yang tidak dapat diandalkan dan tidak aman dapat menyebabkan bencana massal, mulai dari kekacauan jaringan listrik hingga perang yang tidak disengaja atau armada robot mengamuk. Banyak yang bisa kehilangan pekerjaan. Model bisnis AI Generatif mengabaikan undang-undang hak cipta, demokrasi, keselamatan konsumen, dan dampak terhadap perubahan iklim. Dan karena virus ini menyebar begitu cepat dan dengan sedikit pengawasan, AI Generatif sebenarnya telah menjadi eksperimen besar dan tidak terkendali terhadap seluruh populasi kita.

Marcus berulang kali menegur Altman karena menggunakan hype untuk menegaskan prioritas OpenAI, terutama dalam mempromosikan kedatangan AGI dalam waktu dekat. “Salah satu langkah terbaiknya adalah dengan mengatakan bahwa dewan OpenAI akan berkumpul untuk menentukan kapan Kecerdasan Umum Buatan 'telah tercapai',” tulis Marcus tentang pernyataan publik Altman.

"Dan hanya sedikit orang yang bertanya kepada Altman mengapa pertanyaan ilmiah penting tentang kapan AGI tercapai akan 'diputuskan' oleh dewan direksi daripada komunitas ilmiah."

Dalam buku mereka, AI Snake Oil, yang merupakan kecaman pedas terhadap hype AI, Narayanan dan Kapoor secara khusus menyebut komentar publik Altman tentang regulasi AI, menuduhnya terlibat dalam bentuk manipulasi, yang dikenal sebagai " penangkapan peraturan", untuk menghindari kendala nyata pada kekuatan perusahaannya:

Daripada menetapkan aturan yang berarti bagi industri, perusahaan [OpenAI] berupaya untuk membebani pesaing sambil menghindari perubahan apa pun pada strukturnya sendiri. Perusahaan tembakau mencoba hal serupa ketika mereka melobi untuk membungkam tindakan pemerintah terhadap rokok pada tahun 1950an dan 60an.

Masih harus dilihat apakah Altman akan memperluas pernyataan publiknya melalui situs webnya atau apakah esainya hanya dibuat sekali saja, mungkin dimaksudkan untuk melawan narasi skeptis lainnya.