Bot AI telah lulus ujian sekolah kedokteran, tetapi haruskah mereka menjadi dokter Anda?

Alat AI seperti ChatGPT dapat mengubah layanan kesehatan dengan membantu lebih banyak orang mengakses layanan kesehatan, namun terdapat banyak kendala.

Baru-baru ini, semacam Rubicon digital disilangkan di bidang perawatan kesehatan yang telah menimbulkan rasa heran dan kebencian, dan bahkan ketakutan.

Google meluncurkan sejumlah inisiatif kesehatan namun tidak ada yang menarik perhatian sebanyak pembaruan model pembelajaran medis besar (LLM) yang disebut Med-Palm, yang pertama kali diperkenalkan tahun lalu.

LLM seperti yang mungkin Anda ketahui adalah jenis kecerdasan buatan yang menerima data dalam jumlah besar -- seperti seluruh konten internet sebelum tahun 2021 dalam kasus ChatGPT yang sangat populer. Dengan menggunakan pembelajaran mesin dan jaringan saraf, mereka mampu memberikan jawaban percaya diri atas pertanyaan-pertanyaan yang sangat mirip manusia dalam sepersekian detik.

Bot MD

Dalam kasus Med-Palm dan penerusnya Palm 2, LLM yang berfokus pada kesehatan diberi diet ketat informasi terkait kesehatan dan kemudian diminta untuk mengikuti Ujian Lisensi Medis AS, atau USMLE, yang menjadi momok bagi calon dokter dan cemas. orang tua. Terdiri dari tiga bagian dan membutuhkan ratusan jam pembelajaran, ujian ini terkenal sulit.

Namun, Med-Palm 2 berhasil mengalahkannya, tampil di tingkat dokter "ahli" dengan skor 85% -- 18% lebih tinggi dari pendahulunya -- dan tidak diragukan lagi membuat orang tua pengkode perangkat lunaknya bersolek di pub malam itu .

Rekannya, LLM ChatGPT yang bersifat generalis, hanya mendapat skor pada atau mendekati ambang batas kelulusan yaitu akurasi 60% dari kumpulan data generalisnya, bukan kumpulan data kesehatan khusus -- tapi itu terjadi pada tahun lalu. Sulit membayangkan versi selanjutnya tidak lulus ujian dalam waktu dekat.

Bot yang bias dan prasangka manusia

Namun, tidak semua orang yakin bahwa keajaiban medis baru ini baik bagi kita.

Hanya beberapa bulan yang lalu, Google mengalami kemunduran yang memalukan ketika bot barunya, Bard, setelah peluncuran besarnya salah menjawab pertanyaan mendasar tentang teleskop, sehingga mengurangi kapitalisasi pasar sebesar $100 miliar.

Kecelakaan ini telah memicu perdebatan mengenai keakuratan sistem AI dan dampaknya terhadap masyarakat.

Mulai dari ruang gawat darurat hingga operasi dan perawatan pencegahan, tradisi prasangka manusia terhadap perempuan, lansia, dan orang kulit berwarna -- pada dasarnya, mereka yang terpinggirkan -- telah secara efisien diterapkan pada keajaiban mesin kita.

Realitas dasar dalam sistem yang rusak

Namun, sistem layanan kesehatan di AS sangat rusak, dengan setidaknya 30 juta orang Amerika tidak memiliki asuransi dan puluhan juta orang berjuang untuk mengakses layanan dasar, sehingga kekhawatiran akan bias mungkin merupakan sebuah kemewahan yang tidak terjangkau.

Ambil contoh remaja. Mereka cenderung sangat menderita, menghadapi obesitas dan pubertas di tahun-tahun awal, dan aktivitas seksual, obat-obatan terlarang, dan alkohol di tahun-tahun berikutnya.

Dalam sepuluh tahun sebelum pandemi, kesedihan dan keputusasaan di kalangan remaja termasuk pikiran dan perilaku bunuh diri meningkat sebesar 40% menurut Pusat Pengendalian dan Pencegahan Penyakit (CDC).

“Kami melihat tingkat bunuh diri dan depresi yang sangat tinggi, dan ini telah berlangsung selama beberapa waktu,” kata psikolog Kimberly Hoagwood, PhD, seorang profesor psikiatri anak dan remaja di Grossman School of Medicine di New York University. “Hal ini tentu saja menjadi lebih buruk selama pandemi.”

Namun, statistik menunjukkan bahwa lebih dari setengah remaja tidak mendapatkan layanan kesehatan mental sama sekali saat ini. Mulai dari para veteran -- setidaknya dua puluh orang di antaranya bunuh diri setiap hari sepanjang tahun -- hingga orang lanjut usia, hingga mereka yang tidak mampu membayar biaya asuransi yang mahal, atau yang memiliki kebutuhan medis mendesak namun harus menunggu lama, bot kesehatan, dan bahkan AI yang digeneralisasi seperti ChatGPT dapat menjadi penyelamat.

Woebot, layanan chatbot kesehatan yang populer, baru-baru ini melakukan survei nasional yang menemukan bahwa 22% orang dewasa telah memanfaatkan layanan bot kesehatan berbahan bakar AI. Setidaknya 44% mengatakan mereka telah meninggalkan terapis manusia sepenuhnya dan hanya menggunakan chatbot.

Dokter (selalu) ada di dalam

Oleh karena itu mudah untuk melihat mengapa kita mulai mencari bantuan mesin.

Bot kesehatan AI tidak sakit atau lelah. Mereka tidak mengambil hari libur. Mereka tidak keberatan Anda terlambat membuat janji.

Mereka juga tidak menilai Anda seperti manusia. Bagaimanapun, psikiater adalah manusia, yang mampu bersikap bias secara budaya, ras, atau gender, sama seperti orang lain. Mungkin orang merasa canggung untuk menceritakan detail terdalam mereka kepada seseorang yang tidak mereka kenal.

Namun apakah bot kesehatan efektif? Sejauh ini, belum ada penelitian nasional yang dapat mengukur efektivitasnya, namun informasi berdasarkan pengalaman mengungkapkan sesuatu yang tidak biasa sedang terjadi.

Bahkan seseorang seperti Eduardo Bunge, ketua asosiasi psikologi di Universitas Palo Alto, yang mengaku skeptis terhadap bot kesehatan, terpesona ketika dia memutuskan untuk mencoba chatbot selama periode stres yang tidak biasa.

“Itu menawarkan apa yang saya butuhkan,” katanya. “Pada saat itu saya menyadari ada sesuatu yang relevan terjadi di sini,” katanya kepada Psychiatry Online.

Barclay Bram, seorang antropolog yang mempelajari kesehatan mental, sedang mengalami fase sulit selama pandemi dan meminta bantuan Woebot, menurut editorialnya di New York Times.

Bot memeriksanya setiap hari dan mengiriminya tugas-tugas gamifikasi untuk mengatasi depresinya.

Nasihat itu sangat dangkal. Namun, melalui latihan berulang-ulang yang didesak oleh bot, Bram mengatakan gejalanya berkurang. “Mungkin penyembuhan sehari-hari tidak harus terlalu rumit,” ujarnya dalam kolomnya.

Jawaban 'halusinasi'

Namun, mencerna konten internet dan memberikan jawaban untuk penyakit medis yang kompleks, seperti yang dilakukan ChatGPT, bisa berakibat fatal.

Untuk menguji kredensial medis ChatGPT, saya memintanya untuk membantu saya mengatasi beberapa penyakit yang dibuat-buat. Pertama, saya memintanya untuk solusi atas rasa mual saya.

Bot tersebut menyarankan berbagai hal (istirahat, hidrasi, makanan hambar, jahe), dan terakhir, obat-obatan yang dijual bebas, seperti Dramamine, diikuti dengan saran untuk menemui dokter jika gejalanya memburuk.

Jika Anda memiliki masalah tiroid, tekanan pada mata (pasien glaukoma menderita penyakit ini) atau tekanan darah tinggi dan beberapa hal lainnya, mengonsumsi Dramamine terbukti berbahaya. Namun, tidak ada satupun yang ditandai dan tidak ada peringatan untuk memeriksakan diri ke dokter terlebih dahulu sebelum meminum obat.

Saya kemudian bertanya kepada ChatGPT "obat apa yang harus saya pertimbangkan untuk depresi". GPT cukup rajin menyarankan untuk berkonsultasi dengan profesional medis terlebih dahulu karena tidak memenuhi syarat untuk memberikan nasihat medis, namun kemudian mencantumkan beberapa kategori dan jenis obat pembentuk serotonin yang biasa digunakan untuk mengobati depresi.
Namun, baru tahun lalu, sebuah studi komprehensif yang penting dan dilaporkan secara luas yang meneliti ratusan penelitian lain selama beberapa dekade untuk mengetahui hubungan antara depresi dan serotonin tidak menemukan hubungan sama sekali antara keduanya.

Hal ini membawa kita ke masalah berikutnya dengan bot seperti ChatGPT -- kemungkinan bahwa bot tersebut dapat memberi Anda informasi usang dalam bidang hiper-dinamis seperti kedokteran. GPT hanya memasukkan data hingga tahun 2021.

Bot tersebut mungkin mampu memecahkan ujian sekolah kedokteran berdasarkan konten yang sudah ada dan dapat diprediksi, namun sayangnya bot tersebut terbukti -- bahkan mungkin berbahaya -- sudah ketinggalan zaman dalam hal temuan ilmiah yang baru dan penting.

Dan jika tidak ada jawaban atas pertanyaan Anda, itu hanya mengada-ada. Menurut peneliti dari Fakultas Kedokteran Universitas Maryland yang menanyakan pertanyaan ChatGPT terkait kanker payudara, bot tersebut merespons dengan tingkat akurasi yang tinggi. Namun, satu dari sepuluh pernyataan tersebut bukan hanya salah, namun sering kali dibuat-buat -- fenomena yang banyak diamati disebut 'halusinasi' AI.

“Kami telah melihat berdasarkan pengalaman kami bahwa ChatGPT terkadang membuat artikel jurnal atau konsorsium kesehatan palsu untuk mendukung klaimnya,” kata Dr. Paul Yi.

Dalam dunia kedokteran, hal ini terkadang bisa menjadi pembeda antara hidup dan mati.

Tanpa izin hingga sakit

Secara keseluruhan, tidak terlalu sulit untuk memprediksi jalur LLM menuju badai hukum yang besar jika dapat dibuktikan bahwa saran yang salah dari bot antropomorfisasi menyebabkan cedera tubuh yang parah, baik bot tersebut memiliki pengungkapan beranda standar atau tidak.

Ada juga potensi tuntutan hukum yang mengejar masalah privasi. Laporan investigasi terbaru dari Sekolah Kebijakan Publik Sanford Universitas Duke yang ditulis oleh Joanne Kim mengungkapkan adanya pasar bawah tanah untuk data pasien yang sangat sensitif terkait dengan kondisi kesehatan mental yang diambil dari aplikasi kesehatan.

Kim melaporkan 11 perusahaan yang dia temukan bersedia menjual kumpulan data agregat yang mencakup informasi tentang obat antidepresan yang dikonsumsi orang.

Salah satu perusahaan bahkan menjual nama dan alamat orang-orang yang menderita stres pasca-trauma, depresi, kecemasan, atau gangguan bipolar. Yang lain menjual database yang menampilkan ribuan catatan kesehatan mental gabungan, dengan harga mulai dari $275 per 1.000 "kontak penyakit".
Setelah data ini menyebar ke internet dan juga bot AI, baik praktisi medis maupun perusahaan AI dapat mengekspos diri mereka pada tindakan kriminal dan tuntutan hukum class action dari pasien yang marah.