OpenAI menemukan cara untuk membuat model AI lebih logis dan menghindari halusinasi

Perubahan dalam cara model AI melatih dirinya sendiri dapat membantu mencegah pemalsuan.

Meskipun model AI sudah canggih dan dapat melakukan hal-hal luar biasa, model tersebut masih mampu membuat kesalahan dan menghasilkan jawaban yang salah -- yang dikenal sebagai halusinasi.

Semua chatbot AI utama, termasuk ChatGPT dan Google Bard, rentan terhadap halusinasi ini. Baik OpenAI dan Google bahkan menyertakan pengungkapan bahwa chatbot mereka mungkin menghasilkan informasi yang salah.

“ChatGPT terkadang menulis jawaban yang terdengar masuk akal tetapi salah atau tidak masuk akal,” kata OpenAI dalam postingan blog ChatGPT.

Penciptaan informasi palsu telah menimbulkan kekhawatiran luas mengenai penyebaran informasi yang salah dan potensi dampak negatifnya.

Dalam postingan penelitian barunya, OpenAI menyampaikan bahwa mereka mungkin telah menemukan cara untuk membuat model AI bertindak lebih logis dan menghindari halusinasi.

OpenAI melatih model yang mampu memecahkan masalah matematika yang kompleks melalui "pengawasan proses", sebuah metode yang memberikan umpan balik untuk setiap langkah individu dibandingkan dengan "pengawasan hasil", yang memberikan umpan balik pada hasil akhir.

Dalam makalah penelitiannya, OpenAI menguji kedua metode tersebut menggunakan kumpulan data MATH dan menemukan bahwa metode pengawasan proses menghasilkan "kinerja yang jauh lebih baik".

“Pengawasan proses juga lebih mungkin menghasilkan alasan yang dapat ditafsirkan, karena hal ini mendorong model untuk mengikuti proses yang disetujui manusia,” kata OpenAI dalam makalah penelitiannya.

OpenAI mencatat bahwa di luar lingkup permasalahan matematika, tidak diketahui seberapa luas hasil ini akan diterapkan, namun masih penting untuk mengeksplorasinya di domain lain.