Transformasi AI adalah pedang bermata dua. Berikut cara menghindari risikonya

CIO dari organisasi penelitian perintis ini mengatakan pendekatan berulang terhadap teknologi yang muncul adalah cara terbaik untuk membangun kepercayaan pada AI generatif.

Tahun baru berarti fokus baru pada investasi TI. Analis teknologi Gartner memprediksi pengeluaran TI di seluruh dunia akan mencapai $5,74 triliun pada tahun 2025, meningkat 9,3% dari tahun 2024. Analis mengatakan eksplorasi AI intogeneratif (Gen AI) akan membantu mendorong kenaikan ini.

Cara menggunakan ChatGPT untuk menulis:Resume|Rumus Excel|Esai |Surat lamaran
Sebagian besar dari kita akan mencoba-coba Gen AI sekarang. Baik memoles teks, membuat foto, atau membuat kode, kemampuan teknologi ini bisa terasa seperti sihir.

Anda harus membuktikan hipotesis Anda

Namun, James Fleming, CIO di Francis Crick Institute, adalah salah satu pemimpin digital yang tidak membiarkan organisasinya terbawa oleh hype.

Dia mengatakan kepada ZDNET bahwa menggunakan teknologi baru untuk menggerakkan penemuan ilmiah revolusioner tidaklah mudah. Tantangan ini berarti kebangkitan Gen AI tidak menyebabkan perubahan besar dalam metode kerja di organisasi penelitiannya yang terkemuka di dunia.

"Melakukan AI ilmiah, sebagai lawan dari membuat model bahasa besar yang tersedia untuk umum, adalah disiplin yang sangat berbeda. Anda beroperasi di dunia ilmiah yang dibatasi ketat di mana Anda harus membuktikan hipotesis Anda," katanya.

"Tidak cukup baik untuk mengatakan bahwa Anda telah melemparkan model di luar sana yang hampir benar. Sebagian besar waktu, itu harus tepat dalam kondisi tertentu. Dan Anda harus menunjukkan bahwa Anda mendasarkan pekerjaan Anda pada pemahaman mendasar."

Fleming menggambarkan penggunaan AI dalam sains sebagai "pedang bermata dua." Sementara teknologi yang muncul dapat membantu mempercepat proses penelitian, setiap kesimpulan baru harus dihasilkan dan disajikan dengan tingkat kepastian yang tinggi.

"Pembuktian sangat penting, terutama jika Anda memikirkan sesuatu dengan jalur menuju dampak dunia nyata di klinik atau sebagai perangkat medis," kata Fleming.

"Jika Anda menempatkan inovasi di depan dokter dan berkata, 'Saya pikir alat ini dapat memprediksi evolusi kanker,' misalnya, mereka akan berkata, 'Bisakah itu? Tunjukkan alasannya.'"

Namun, meskipun penjelasan sangat penting untuk penelitian ilmiah, ini adalah fokus yang bertentangan denganmetode kerja kotak hitam dan halusinasi dari banyak model AI populer.

Gunakan pendekatan berulang

Jadi, untuk mengungkap proses teknologi yang muncul, Fleming mengatakan Crick menggunakan pendekatan berulang untuk membantu para penelitinya merangkul model AI dengan percaya diri.

"Anda harus bekerja perlahan dan bertahap menuju tujuan," katanya. "Kami mengambil pendekatan yang jauh lebih fokus yang membangun asal-usul dan kepercayaan sejak hari pertama."

Pendekatan inkremental The Crick membantu peneliti menerapkan model AI dengan dua cara.

Pertama, meningkatkan metodologi ilmiah yang ada. Fleming mengatakan lembaga itu memulai pekerjaannya di sini lima tahun lalu dalam mikroskop.

Fasilitas mikroskop Crick menganalisis elektron kriogenik dan menghasilkan gambar jaringan, sel, dan molekul individu yang sangat padat dan indah.

Namun, menghasilkan gambar yang bagus hanyalah titik awal. Gambar harus diubah menjadi data, seperti detail yang dapat membantu menunjukkan perbedaan antara sel kanker dan sel yang tidak.

Tim Fleming telah bekerja berulang untuk membuktikan bahwa model yang tepat dapat menghasilkan hasil penelitian yang mengubah permainan lebih cepat.

"Model AI dapat melakukan banyak pekerjaan yang mendengus untuk Anda, seperti analisis fitur dan ekstraksi dan mengubah gambar menjadi data yang dapat Anda kerjakan untuk mendapatkan pemahaman," katanya.

Area kedua di mana Crick menggunakan AI adalah dalam konteks penemuan, tetapi dibatasi dengan ketat.

Fleming memberikan contoh pekerjaan laboratorium tentang Parkinson. Tim peneliti menciptakan pengklasifikasi yang dapat mengidentifikasi pasien mana yang memiliki penyakit dalam populasi sel punca. Namun, para peneliti tidak dapat menjelaskan alasannya - jadi mereka bekerja mundur, berulang.

"Setelah melatih model, kemudian ada proses interogasi terbalik model itu dengan berbagai metode statistik untuk mengatakan, 'Sebenarnya, hal yang dominan adalah elipsisitas sel. Mereka lebih oval. Dan ada juga serangkaian fitur lain yang kemudian diekstraksi oleh model.'"

Dia mengatakan hasil dalam isolasi ini bukanlah jawaban, tetapi mereka mendorong pertanyaan berikutnya: "'Oke, morfologi sel berbeda. Mengapa demikian? Apa putaran eksperimen kita selanjutnya?' Dan di situlah bagian berulang mulai masuk."

Uji dan asah

Fleming mengatakan proses cermat Crick untuk menguji dan mengasah teknologi AI secara bertahap sekarang mengarah ke pendekatan yang lebih canggih di mana beberapa AI disatukan untuk mendukung program penelitian tepercaya.

Proyek terbesar dipimpin oleh Samra Turaljic, yang Laboratorium Dinamika Kankernya berfokus pada pemahaman bagaimana kanker ginjal berkembang.

Tim menggunakan AI untuk memprediksi evolusi genom tumor dari gambar patologi. Fleming mengatakan bahwa upaya itu melibatkan pelatihan beberapa AI dan model pelatihan silang dengan database genomik yang mencakup 10 tahun penelitian.

"Hasilnya adalah Anda menciptakan sesuatu yang secara klinis dapat memprediksi evolusi ginjal," katanya.

"Tetapi dalam setiap proses itu, Anda berdua dengan cermat membangun sub-komponen ke titik di mana Anda dapat mempercayainya, dan Anda juga bekerja melalui lapisan dan lapisan data dan semakin dekat dengan skala populasi dunia nyata saat Anda bekerja."

Fleming mengatakan pendekatan super detail ini penting karena hasil dapat dipengaruhi oleh variasi biologis dan akuisisi, seperti intensitas noda yang berbeda pada slide patologi.

Proses tahap demi tahap ini membuktikan bahwa kunci untuk membuka hasil yang lebih cepat dari AI dalam jangka panjang adalah bekerja secara perlahan dan metodis dalam jangka pendek.

Itulah perspektif yang dapat kita semua pelajari di era AI, di mana hiperbola vendor menyarankan solusi brilian untuk tantangan yang sulit diatasi hanya dengan sekali klik.

"Kami mulai dengan kumpulan data kecil, memahaminya, membuatnya prediktif dan berfungsi, dan membawa lebih banyak data," kata Fleming.

"Kemudian, ketika kami menambahkan lebih banyak data, kami mengasah model lagi. Proses berulang ini sangat penting karena jika Anda tidak melakukannya, Anda tidak membangun pemahaman dan asal-usulnya."