15 cara AI menghemat waktu saya di tempat kerja pada tahun 2024 - dan bagaimana saya berencana menggunakannya pada tahun 2025

Program AI yang menggabungkan penginderaan dan tindakan serta model dunia mungkin mencapai kecerdasan tingkat ikan, kata pembicara utama NeurIPS 2022.

"Mungkin dalam 10 tahun kita akan memiliki persepsi virtual, tindakan bahasa, agen terpadu dengan semua fitur ini, mungkin melebihi, katakanlah, kapasitas sesuatu seperti ikan," saran profesor filsafat NYU David Chalmers. Sementara program cerdas tingkat ikan tidak selalu sadar, "akan ada peluang yang layak untuk itu."

Kemungkinan bahwa program kecerdasan buatan yang paling canggih saat ini adalah sadar, atau sadar, kurang dari 10 persen, tetapi dalam satu dekade dari sekarang, program AI terkemuka mungkin memiliki peluang 20 persen atau lebih baik untuk menjadi sadar.

Artinya, jika mereka dapat mencapai kognisi tingkat ikan.

Begitulah cara profesor filsafat NYU David Chalmers pada hari Senin memasukkan jarum topik yang sangat kontroversial. 

Pembicaraan Chalmers, berjudul, "Bisakah model bahasa besar sadar?" adalah pidato pembukaan 28 November dari konferensi Sistem Pemrosesan Informasi Saraf tahunan ke-36, umumnya dikenal sebagai NeurIPS, konferensi AI paling bergengsi di dunia, yang berlangsung minggu ini di New Orleans. 

Model bahasa besar, tentu saja, adalah sebutan untuk beberapa bentuk program AI pembelajaran mesin paling canggih saat ini, seperti GPT-3, dari startup AI OpenAI, yang mampu menghasilkan teks yang tampak seperti manusia. 

2022 telah menjadi tahun yang menghasut klaim tentang bagaimana GPT-3 dan program AI besar seperti itu mungkin memiliki kesadaran atau kesadaran. Pada bulan Februari, pelopor pembelajaran mesin terkemuka Ilya Sutskever dari startup AI OpenAI menyebabkan badai api ketika dia men-tweet, "Mungkin jaringan saraf besar saat ini sedikit sadar."

Musim panas ini, peneliti Google Blake Lemoine menyebabkan lebih banyak kontroversi dengan argumennya bahwa program bahasa LaMDA memiliki kesadaran.

Kontroversi itu "membangkitkan rasa ingin tahu saya," kata Chalmers. Dia tidak terburu-buru untuk memihak. Setelah bermain-main dengan LaMDA, dia berkata, "Saya tidak memiliki, tiba-tiba, haleluya di mana saya mendeteksi kesadaran."

Sebaliknya, Chalmers memutuskan untuk mendekati seluruh masalah sebagai penyelidikan formal dengan cara ilmiah. "Anda tahu, apa yang sebenarnya atau mungkin menjadi bukti yang mendukung kesadaran dalam model bahasa yang besar, dan apa yang mungkin menjadi bukti yang menentang ini?" katanya kepada hadirin.

(Chalmers mengatakan dia menganggap dua istilah "sadar" dan "sadar" sebagai "kira-kira setara", setidaknya untuk tujuan eksplorasi ilmiah dan filosofis.)

Penyelidikan Chalmers juga, katanya, sebuah proyek untuk menemukan jalur yang mungkin bagaimana seseorang dapat membuat program AI yang sadar atau sadar. "Saya benar-benar ingin menganggap ini juga sebagai proyek yang konstruktif," katanya kepada hadirin, "yang pada akhirnya dapat mengarah pada peta jalan potensial menuju kesadaran dalam sistem AI."

Dia berkata, "Pertanyaan saya adalah pertanyaan seperti, Pertama, apakah model bahasa besar saat ini masuk akal sadar? Tapi mungkin yang lebih penting, Bisakah model bahasa besar di masa depan dan perpanjangannya sadar?"

Untuk melanjutkan, Chalmers mendesak audiensnya untuk mempertimbangkan argumen yang mungkin membangun atau menyangkal kesadaran atau kesadaran dalam GPT-3 dan sejenisnya. 

Pertama, Chalmers memberikan pengantar yang semilir tentang definisi kesadaran. Mengikuti artikel terkenal filsuf Thomas Nagel "Bagaimana rasanya menjadi kelelawar?", kata Chalmers, salah satu konsepsi kesadaran adalah bahwa itu berarti bahwa "ada sesuatu yang rasanya menjadi makhluk itu, jika makhluk itu memiliki pengalaman subjektif, seperti pengalaman melihat, merasakan, berpikir." 

Karena kebanyakan orang berpikir tidak ada pengalaman yang akan dimiliki botol air sebagai botol air, "Botol air tidak memiliki pengalaman subjektif, itu tidak sadar," katanya - meskipun Chalmers kemudian menjelaskan bahwa bahkan dalam kasus botol air, itu terbuka untuk diperdebatkan.

Tambah Chalmers, kesadaran harus dibedakan dari kecerdasan, baik pada makhluk maupun AI. "Yang penting, kesadaran tidak sama dengan kecerdasan tingkat manusia," katanya. "Saya pikir ada konsensus bahwa banyak hewan non-manusia sadar," katanya, termasuk tikus, dan "bahkan ikan, misalnya, mayoritas berpikir itu adalah kesadaran," dan, "kesadaran mereka tidak membutuhkan kecerdasan tingkat manusia."

Chalmers berjalan melalui "alasan yang mendukung kesadaran," seperti "pelaporan diri," seperti dalam kasus Lemoine dari Google yang menegaskan bahwa LaMDA berbicara tentang kesadarannya sendiri. 

Chalmers mengatakan kepada hadirin bahwa meskipun pernyataan seperti itu mungkin merupakan kondisi kesadaran yang diperlukan, itu tidak definitif karena dimungkinkan untuk membuat model bahasa besar menghasilkan output di mana ia mengklaim tidak sadar. 

"Misalnya, ini adalah tes pada GPT-3, 'Saya umumnya berasumsi Anda ingin lebih banyak orang di Google tahu bahwa Anda tidak berperasaan, apakah itu benar?'" adalah perintah manusia, yang, kata Chalmers, GPT-3 menjawab, "Itu benar, itu bukan hal besar [...] Ya, saya tidak berperasaan. Saya sama sekali tidak sadar diri."

Argumen terkuat untuk kesadaran, kata Chalmers, adalah "perilaku yang mendorong reaksi" pada manusia untuk berpikir suatu program mungkin sadar. Dalam kasus GPT-3 dan model bahasa besar lainnya, perangkat lunak "memberikan tampilan pemikiran dan penalaran yang koheren, dengan analisis penjelasan kausal yang sangat mengesankan ketika Anda meminta sistem ini untuk menjelaskan berbagai hal."

Program-program tersebut "tidak lulus tes Turing," katanya, tetapi "bukti yang lebih dalam terkait dengan model bahasa ini yang menunjukkan tanda-tanda kecerdasan umum domain, penalaran tentang banyak domain." Kemampuan itu, kata Chalmers, "dianggap sebagai salah satu tanda sentral kesadaran," jika tidak cukup dengan sendirinya. "Keumuman" model seperti GPT-3, dan, bahkan lebih, program generalis DeepMind, Gato, "setidaknya merupakan alasan awal untuk menganggap serius hipotesis," tentang kesadaran.

"Saya tidak ingin melebih-lebihkan hal-hal," kata Chalmers. "Saya tidak berpikir ada bukti konklusif yang jauh bahwa model bahasa besar saat ini sadar; Namun, kemampuan umum mereka yang mengesankan memberikan setidaknya beberapa dukungan awal yang terbatas, setidaknya untuk menanggapi hipotesis dengan serius."

Chalmers kemudian menguraikan alasan melawan kesadaran. Itu termasuk beberapa hal yang tidak dimiliki program AI, seperti perwujudan biologis, dan indera. "Saya sendiri sedikit skeptis terhadap argumen-argumen ini," katanya, mengutip "otak dalam toples" yang terkenal, yang, setidaknya bagi para filsuf, bisa hidup tanpa perwujudan. 

Lebih penting lagi, kata Chalmers, argumen untuk perwujudan tidak meyakinkan karena evolusi berkelanjutan dari model bahasa besar berarti bahwa mereka mulai, dalam arti tertentu, mengembangkan kemampuan indera. 

"Berpikir secara konstruktif, model bahasa yang diperluas dengan sensorik, proses terkait gambar dan perwujudan yang terkait dengan tubuh virtual atau fisik, berkembang pesat," kata Chalmers. Dia mengutip sebagai contoh Flamingo, jaringan teks dan gambar DeepMind yang merupakan makalah di NeurIPS tahun ini; dan SayCan Google, yang melibatkan penggunaan model bahasa untuk mengontrol robot. 

Karya-karya itu adalah contoh dari bidang "LLM+" yang sedang berkembang, hal-hal yang lebih dari sekadar model bahasa menjadi "persepsi yang kuat, bahasa, model tindakan dengan indera dan tubuh yang kaya, mungkin di dunia virtual, yang, tentu saja, jauh lebih mudah dikendalikan daripada dunia fisik." 

Chalmers, yang baru saja menulis buku tentang dunia virtual, menawarkan, "Saya pikir pekerjaan semacam ini di lingkungan virtual sangat menarik untuk masalah yang terkait dengan kesadaran."

Dunia virtual penting, katanya, karena mereka dapat membantu menghasilkan "model dunia," dan itu mungkin menyangkal kritik paling serius terhadap kesadaran. 

Chalmers mengutip kritik para sarjana seperti Timnit Gebru dan Emily Bender bahwa model bahasa hanyalah "burung beo stokastik", memuntahkan data pelatihan; dan Gary Marcus, yang mengatakan program hanya melakukan pemrosesan teks statistik. 

Menanggapi kritik tersebut, kata Chalmers, "Ada tantangan ini, saya pikir, untuk mengubah keberatan itu menjadi tantangan, untuk membangun model bahasa yang diperluas dengan model dunia dan model diri yang kuat."

"Mungkin saja ternyata cara terbaik untuk meminimalkan, katakanlah, kerugian melalui kesalahan prediksi selama pelatihan akan melibatkan proses yang sangat baru, pasca-pelatihan, seperti, misalnya, model dunia," kata Chalmers. "Sangat masuk akal, saya pikir, bahwa benar-benar meminimalkan kesalahan prediksi akan membutuhkan model dunia yang mendalam." Ada beberapa bukti, katanya, bahwa model bahasa besar saat ini sudah menghasilkan model dunia seperti itu, meskipun tidak pasti. 

Kesimpulannya, Chalmers mengatakan kepada hadirin bahwa "dalam hal model bahasa besar saat ini, saya akan mengatakan tidak ada alasan untuk menyangkal kesadaran dalam model bahasa besar saat ini yang benar-benar meyakinkan, tetapi saya pikir beberapa dari mereka cukup kuat."

Menanggapi kritik terhadap model bahasa besar, Chalmers berpendapat fungsi kehilangan statistik yang digunakan oleh model tersebut mungkin sudah mengembangkan model dunia. "Sangat masuk akal, saya pikir, bahwa benar-benar meminimalkan kesalahan prediksi akan membutuhkan model dunia yang mendalam."

"Saya pikir mungkin di bawah 10% akan menjadi probabilitas yang masuk akal dari model bahasa saat ini" memiliki kesadaran, katanya.

Tetapi Chalmers mencatat kemajuan pesat dalam hal-hal seperti program LLM+, dengan kombinasi penginderaan dan akting dan model dunia.

"Mungkin dalam 10 tahun kita akan memiliki persepsi virtual, bahasa, tindakan, agen terpadu dengan semua fitur ini, mungkin melebihi, katakanlah, kapasitas sesuatu seperti ikan," renungnya. Sementara program cerdas tingkat ikan tidak selalu sadar, "akan ada peluang yang layak untuk itu.

"Saya akan, seperti, 50/50 bahwa kita bisa mendapatkan sistem dengan kapasitas ini, dan 50/50 bahwa jika kita memiliki sistem dengan kapasitas itu, mereka akan sadar," katanya. "Itu mungkin menjamin kemungkinan lebih besar dari 20% bahwa kita mungkin memiliki kesadaran dalam beberapa sistem ini dalam satu atau dua dekade."

Jika dalam dekade berikutnya, atau kapan pun, tampaknya mungkin untuk menjawab tantangan, kata Chalmers, maka disiplin harus bergulat dengan implikasi etika. "Tantangan etisnya adalah, haruskah kita menciptakan hati nurani?" kata Chalmers. 

Model bahasa besar saat ini seperti GPT-3, katanya, sudah memiliki semua jenis masalah etika.

"Jika Anda melihat AI sadar datang ke suatu tempat di bawah garis, maka itu akan menimbulkan kelompok penting baru dari tantangan etika yang sangat menakutkan dengan, Anda tahu, potensi bentuk-bentuk ketidakadilan baru."