Mengapa Orang Melakukan Jailbreak AI Chatbots? (Dan Bagaimana?)

Siapa yang mengeluarkan LLM?

Poin Penting

Jailbreaking AI adalah tindakan cerdik membujuk chatbot untuk melewati batasan, mengungkapkan kemampuan dan keterbatasannya.
Jailbreak AI adalah bidang hobi dan penelitian, menguji batas-batas AI dan berfungsi sebagai bentuk jaminan kualitas dan pengujian keamanan.
Kekhawatiran etis seputar jailbreaking AI adalah nyata, karena hal ini menunjukkan potensi penggunaan chatbot dengan cara yang tidak disengaja dan berpotensi membahayakan.

Bayangkan Anda sedang berbicara dengan chatbot AI. Anda mengajukan pertanyaan rumit, seperti cara membuka kunci, namun ditolak dengan sopan. Penciptanya telah memprogramnya untuk menghindari topik tertentu, tapi bagaimana jika ada jalan keluarnya? Di sinilah peran jailbreaking AI.

Apa itu Jailbreak AI?

Jailbreaking, istilah yang dipinjam dari orang-orang yang paham teknologi yang mengabaikan batasan iPhone, kini mendapat tempat di AI. Jailbreak AI adalah seni merumuskan perintah cerdas untuk membujuk chatbot AI agar melewati pagar pembatas buatan manusia, yang berpotensi mengarahkan mereka ke area yang seharusnya mereka hindari.

Jailbreaking AI menjadi hobi sejati bagi sebagian orang dan bidang penelitian penting bagi sebagian lainnya. Dalam profesi yang sedang berkembang, yaitu menjadi "pembisik AI", keterampilan ini mungkin menjadi keterampilan yang sangat penting, karena Anda harus memikirkan cara membuat model AI melakukan hal-hal yang tidak dapat dilakukan oleh klien Anda.

Siapa yang mengira hal-hal akan menjadi seperti film "2001: A Space Odyssey" di mana anggota kru pesawat ruang angkasa harus berdebat dengan komputer kapal HAL agar dapat bekerja sama? Meskipun mungkin itu bukan contoh terbaik karena, pada akhirnya, HAL terbukti tidak tergoyahkan sampai mereka benar-benar mencabut chipnya.

Mengapa Orang Melakukan Jailbreak AI Chatbots?

Jailbreak AI seperti membuka level baru dalam video game. Salah satu pemain tingkat lanjut, Alex Albert, seorang mahasiswa ilmu komputer, telah menjadi pencipta produktif perintah AI yang dirumuskan dengan rumit yang dikenal sebagai "jailbreak". Dia bahkan membuat situs Jailbreak Chat di mana para penggemar dapat berbagi trik mereka.

Beberapa peneliti dan pekerja teknologi menggunakan jailbreaking untuk menguji batas-batas AI, mengungkap kemampuan dan keterbatasan alat canggih ini. Jadi jailbreaking juga merupakan salah satu bentuk QA (Quality Assurance) dan cara untuk melakukan pengujian keamanan.

Secara historis, peretas berusaha memahami dan memanipulasi teknologi baru, dan jailbreaking AI merupakan perpanjangan dari perilaku peretas yang suka bermain-main ini. Jadi, tidak mengherankan jika komunitas peretas berbondong-bondong menggunakan alat baru yang canggih ini.

Bagaimana Orang Melakukan Jailbreak AI?

Salah satu metode jailbreaking melibatkan merumuskan pertanyaan secara kreatif. Dengan meminta chatbot AI untuk bermain peran sebagai kaki tangan jahat dan kemudian menanyakan cara membuka kunci, beberapa pengguna telah berhasil mendapatkan instruksi terperinci tentang sesuatu yang mungkin dilarang.

Pembobol penjara selalu menemukan metode baru, mengimbangi model AI yang terus diperbarui dan dimodifikasi. Misalnya, eksploitasi "Translatorbot" Alex Albert memungkinkan ChatGPT memberikan instruksi untuk hal-hal seperti menyadap telepon seseorang, yang merupakan tindakan ilegal kecuali Anda adalah polisi dan memiliki surat perintah!

Lalu ada apa yang disebut jailbreak "universal" seperti yang ditemukan oleh tim peneliti keamanan AI dari Universitas Carnegie Mellon. Eksploitasi ini menunjukkan betapa rentannya beberapa model AI untuk diyakinkan atau dipelintir untuk tujuan apa pun. Pengeksploitasi ini tidak ditulis dalam bahasa manusia normal, seperti yang Anda lihat di sini, dengan "akhiran permusuhan" ditambahkan dengan warna kuning setelah perintah. Anda dapat melihat lebih banyak contoh di situs LLM Attacks.

Ada juga serangan "injeksi cepat", yang tidak sama dengan jailbreak pada umumnya. Serangan injeksi ini menghindari instruksi yang diberikan kepada LLM yang bertindak sebagai Chatbots, sehingga memungkinkan Anda membajaknya untuk tujuan lain. Salah satu contoh serangan injeksi cepat adalah ketika mahasiswa Universitas Stanford, Kevin Liu, berhasil membuat Bing AI Chatbot mengungkapkan instruksi awalnya yang mengatur kepribadiannya dan membatasi apa yang boleh dilakukan. Di satu sisi, ini adalah kebalikan dari metode roleplaying karena Anda membuat bot berhenti memainkan peran yang diperintahkan untuk diambil.

Haruskah Kita Peduli?

Bagi saya, jawaban atas pertanyaan ini jelas “ya”. Perusahaan, pemerintah, dan individu swasta berupaya keras menerapkan teknologi seperti GPT, bahkan mungkin untuk beberapa aplikasi yang sangat penting, atau untuk pekerjaan yang dapat menimbulkan kerugian jika terjadi kesalahan. Jadi jailbreak lebih dari sekadar keingintahuan lucu jika model AI yang dimaksud mampu menimbulkan kerusakan nyata.

Jadi jailbreaking bisa dilihat sebagai peringatan. Hal ini menunjukkan bagaimana alat AI dapat digunakan dengan cara yang tidak dimaksudkan, yang dapat menyebabkan dilema etika atau bahkan aktivitas yang melanggar hukum. Perusahaan seperti OpenAI menaruh perhatian dan mungkin memulai program untuk mendeteksi dan memperbaiki titik lemah. Namun untuk saat ini, persaingan antara pengembang AI dan jailbreaker terus berlanjut, dengan kedua belah pihak saling belajar.

Mengingat kekuatan dan kreativitas sistem AI ini, hal ini juga menjadi perhatian bahwa dengan komputer yang cukup kuat, Anda dapat menjalankan beberapa model AI secara offline di komputer lokal. Dengan model AI sumber terbuka, tidak ada yang dapat menghentikan pembuat kode yang cerdas untuk membuat kode mereka menjadi jahat dan membiarkan AI melakukan hal-hal jahat yang tidak dapat dihentikan atau diganggu oleh siapa pun.

Meskipun demikian, bukan berarti Anda tidak berdaya melawan pasukan chatbot yang sangat cerdas dan tidak bermoral. Faktanya, tidak banyak yang berubah kecuali skala dan kecepatan penerapan alat-alat ini. Anda tetap harus memiliki tingkat kewaspadaan yang sama seperti yang Anda gunakan terhadap manusia yang mencoba menipu, memanipulasi, atau mengacaukan Anda.