AI kehabisan daya komputasi. IBM mengatakan jawabannya adalah chip baru ini
IBM Research telah meluncurkan Unit Kecerdasan Buatan baru, yang dirancang untuk menjalankan model pembelajaran mendalam untuk hampir semua aplikasi perusahaan.
Close-up chip IBM Artificial Intelligence Unit.
Hype menunjukkan bahwa kecerdasan buatan (AI) sudah ada di mana-mana, tetapi pada kenyataannya teknologi yang menggerakkannya masih berkembang. Banyak aplikasi AI didukung dengan chip yang tidak dirancang untuk AI - sebaliknya, mereka mengandalkan CPU dan GPU serba guna yang dibuat untuk video game. Ketidakcocokan itu telah menyebabkan kesibukan investasi - dari raksasa teknologi seperti IBM, Intel dan Google, serta dari perusahaan rintisan dan VC - ke dalam desain chip baru yang secara khusus dirancang untuk beban kerja AI.
Seiring dengan peningkatan teknologi, investasi perusahaan pasti akan mengikuti. Menurut Gartner, pendapatan chip AI berjumlah lebih dari $34 miliar pada tahun 2021 dan diperkirakan akan tumbuh menjadi $86 miliar pada tahun 2026. Selain itu, perusahaan riset mengatakan, kurang dari 3% server pusat data pada tahun 2020 menyertakan akselerator beban kerja, sementara lebih dari 15% diperkirakan akan terjadi pada tahun 2026.
IBM Research, pada bagiannya, baru saja meluncurkan Artificial Intelligence Unit (AIU), sebuah prototipe chip khusus untuk AI.
"Kami kehabisan daya komputasi. Model AI tumbuh secara eksponensial, tetapi perangkat keras untuk melatih raksasa ini dan menjalankannya di server di cloud atau pada perangkat edge seperti smartphone dan sensor belum berkembang secepat itu," kata IBM.
AIU adalah system-on-a-chip (SoC) lengkap pertama dari IBM Research AI Hardware Center yang dirancang secara khusus untuk menjalankan model pembelajaran mendalam AI perusahaan.
IBM berpendapat bahwa "pekerja keras komputasi tradisional", atau dikenal sebagai CPU, dirancang sebelum pembelajaran mendalam tiba. Meskipun CPU bagus untuk aplikasi tujuan umum, CPU tidak begitu baik dalam melatih dan menjalankan model pembelajaran mendalam yang memerlukan operasi AI paralel secara besar-besaran.
"Tidak ada keraguan dalam pikiran kami bahwa AI akan menjadi pendorong mendasar solusi TI untuk waktu yang sangat lama," kata Jeff Burns, direktur Komputasi AI untuk IBM Research, kepada ZDNET. "Ini akan diresapi di seluruh lanskap komputasi, di seluruh infrastruktur dan solusi TI perusahaan yang rumit ini dengan cara yang sangat luas dan menyebar."
Bagi IBM, sangat masuk akal untuk membangun solusi lengkap yang secara efektif universal, kata Burns, "sehingga kami dapat mengintegrasikan kemampuan tersebut ke dalam platform komputasi yang berbeda dan mendukung berbagai kebutuhan AI perusahaan yang sangat, sangat luas."
AIU adalah sirkuit terpadu khusus aplikasi (ASIC), tetapi dapat diprogram untuk menjalankan semua jenis tugas pembelajaran mendalam. Chip ini memiliki 32 inti pemrosesan yang dibangun dengan teknologi 5 nm dan berisi 23 miliar transistor. Tata letaknya lebih sederhana daripada CPU, yang dirancang untuk mengirim data langsung dari satu mesin komputasi ke mesin komputasi berikutnya, membuatnya lebih hemat energi. Ini dirancang agar mudah digunakan seperti kartu grafis dan dapat dicolokkan ke komputer atau server mana pun dengan slot PCIe.
Untuk menghemat energi dan sumber daya, AIU memanfaatkan perkiraan komputasi, teknik yang dikembangkan IBM untuk memperdagangkan presisi komputasi demi efisiensi. Secara tradisional, komputasi mengandalkan aritmatika floating point 64 dan 32-bit, untuk memberikan tingkat presisi yang berguna untuk keuangan, perhitungan ilmiah, dan aplikasi lain di mana akurasi terperinci penting. Namun, tingkat presisi itu tidak benar-benar diperlukan untuk sebagian besar aplikasi AI.
"Jika Anda berpikir tentang merencanakan lintasan kendaraan mengemudi otonom, tidak ada posisi yang tepat di jalur di mana mobil itu harus berada," jelas Burns. "Ada berbagai tempat di jalur."
Jaringan saraf pada dasarnya tidak tepat - mereka menghasilkan output dengan probabilitas. Misalnya, program visi komputer mungkin memberi tahu Anda dengan kepastian 98% bahwa Anda sedang melihat gambar kucing. Meski begitu, jaringan saraf pada awalnya masih dilatih dengan aritmatika presisi tinggi, menghabiskan energi dan waktu yang signifikan.
Teknik komputasi perkiraan AIU memungkinkannya untuk turun dari aritmatika floating point 32-bit ke format bit yang menyimpan seperempat informasi lebih banyak.
Untuk memastikan chip ini benar-benar universal, IBM telah berfokus pada lebih dari sekadar inovasi perangkat keras. IBM Research telah memberikan penekanan besar pada model fondasi, dengan tim antara 400 dan 500 orang yang mengerjakannya. Berbeda dengan model AI yang dibangun untuk tugas tertentu, model dasar dilatih pada serangkaian data yang tidak berlabel, menciptakan sumber daya yang mirip dengan database raksasa. Kemudian, ketika Anda memerlukan model untuk tugas tertentu, Anda dapat melatih ulang model dasar menggunakan data berlabel dalam jumlah yang relatif kecil.
Dengan menggunakan pendekatan ini, IBM bermaksud untuk menangani vertikal yang berbeda dan kasus penggunaan AI yang berbeda. Ada beberapa domain yang sedang dibangun oleh perusahaan untuk membangun model fondasi - kasus penggunaan tersebut mencakup bidang-bidang seperti kimia dan data deret waktu. Data deret waktu, yang hanya mengacu pada data yang dikumpulkan selama interval waktu yang teratur, sangat penting bagi perusahaan industri yang perlu mengamati bagaimana peralatan mereka berfungsi. Setelah membangun model fondasi untuk beberapa area utama, IBM dapat mengembangkan penawaran yang lebih spesifik dan digerakkan oleh vertikal. Tim juga telah memastikan perangkat lunak untuk AIU sepenuhnya kompatibel dengan tumpukan perangkat lunak Red Hat milik IBM.