IBM menjadikan model Granite AI-nya sebagai sumber terbuka - dan itu berarti bisnis

Banyak perusahaan mengklaim telah melakukan open-source LLM mereka, namun IBM benar-benar melakukannya. Begini caranya.

Model bahasa besar (LLM) sumber terbuka tidaklah mudah. Tanyakan saja pada Open Source Initiative (OSI), yang telah mengerjakan definisi open source yang kompatibel dengan AI selama hampir dua tahun. Beberapa perusahaan -- Meta, misalnya -- mengklaim telah melakukan open-source LLM mereka. (Mereka belum melakukannya.) Namun, kini IBM telah melangkah maju dan melaksanakannya.

IBM mengelola open source kode Granit dengan menggunakan data pra-pelatihan dari kumpulan data yang tersedia untuk umum, seperti GitHub Code Clean, data Starcoder, repositori kode publik, dan masalah GitHub. Singkatnya, IBM telah berupaya keras untuk menghindari masalah hak cipta atau hukum. Model Basis Kode Granit dilatih pada token data kode berukuran 3 hingga 4 terabyte dan kumpulan data terkait kode bahasa alami.

Semua model ini dilisensikan di bawah lisensi Apache 2.0 untuk penelitian dan penggunaan komersial. Kata terakhir itulah -- komersial -- yang menghentikan LLM besar lainnya untuk bersumber terbuka. Tidak ada orang lain yang ingin membagikan barang LLM mereka.

Namun, seperti yang dikatakan oleh kepala ilmuwan IBM Research, Ruchir Puri, "Kami mentransformasi lanskap AI generatif untuk perangkat lunak dengan merilis kode LLM yang berkinerja tertinggi dan hemat biaya, memberdayakan komunitas terbuka untuk berinovasi tanpa batasan."

Mungkin tanpa batasan, tetapi bukan tanpa mempertimbangkan penerapan spesifik.

Model Granit, seperti yang dikatakan oleh manajer umum ekosistem IBM Kate Woolley tahun lalu, bukanlah "tentang mencoba menjadi segalanya bagi semua orang. Ini bukan tentang menulis puisi tentang anjing Anda. Ini tentang model yang dikurasi yang dapat disesuaikan dan sangat ditargetkan untuk kasus penggunaan bisnis yang kami ingin perusahaan gunakan. Khususnya, untuk pemrograman."

Model khusus decoder ini, dilatih dengan kode dari 116 bahasa pemrograman, berkisar antara 3 hingga 34 miliar parameter. Mereka mendukung banyak penggunaan pengembang, mulai dari modernisasi aplikasi yang kompleks hingga tugas-tugas dengan memori terbatas pada perangkat.

IBM telah menggunakan LLM ini secara internal dalam produk IBM Watsonx Code Assistant (WCA), seperti WCA untuk Ansible Lightspeed untuk Otomatisasi TI dan WCA untuk IBM Z untuk memodernisasi aplikasi COBOL. Tidak semua orang mampu membeli Watsonx, tetapi sekarang, siapa pun dapat bekerja dengan Granite LLM menggunakan IBM dan InstructLab Red Hat.

Seperti yang dikatakan SVP dan chief product officer Red Hat Ashesh Badani, InstructLab akan "menurunkan banyak hambatan yang dihadapi GenAI di cloud hybrid, mulai dari keterampilan ilmu data yang terbatas hingga sumber daya yang dibutuhkan." Gunanya untuk menurunkan entry level bagi developer yang ingin menggunakan LLM.

Seberapa rendah? Seperti yang dikatakan Matt Hicks di Red Hat Summit, "Kemampuan yang, setahun yang lalu, digabungkan dengan perangkat keras kelas atas yang cukup eksotik, kini dapat dijalankan di laptop. Teknik pelatihan yang dulunya bernilai ratusan juta dolar, kini menjadi direplikasi untuk beberapa ribu."

Misalnya, selain InstructLab, Anda bisa menggunakan Ollma untuk menjalankan LLM secara lokal. Seperti yang dijelaskan Bala Priya C di KDnuggets, "Dengan Ollama, semua yang Anda perlukan untuk menjalankan LLM -- bobot model dan semua konfigurasi -- dikemas ke dalam satu Modelfile. Pikirkan Docker untuk LLM." Model-model tersebut tersedia di platform seperti Hugging Face, GitHub, Watsonx.ai, dan Red Hat Enterprise Linux (RHEL) AI.

IBM mengantisipasi bahwa pemrogram, selain menulis kode dengan LLM Granit, akan menghemat waktu dan energi dengan menggunakan LLM ini untuk membuat pengujian dan menemukan serta memperbaiki bug. “Banyak tugas sehari-hari namun penting yang menjadi bagian dari keseharian pengembang -- mulai dari membuat pengujian unit hingga menulis dokumentasi atau menjalankan pengujian kerentanan -- dapat diotomatisasi dengan model ini.

Selain membantu pengembang, IBM melihat manfaat bisnis dalam model Granit karena, tidak seperti banyak model lainnya, lisensi mereka jelas, begitu pula cara model tersebut dilatih. Selain itu, data telah dibersihkan dan disaring dari kebencian, pelecehan, dan bahasa tidak senonoh.

Jadi, jika perusahaan Anda ragu untuk mengeksplorasi penggunaan AI untuk membuat program karena alasan hukum, IBM baru saja memberi Anda alat sumber terbuka yang Anda perlukan untuk meningkatkan pekerjaan pengembangan perangkat lunak Anda. Cobalah. Beberapa dari Anda akan membangun hal-hal hebat dari balok-balok Granit ini.