Pelopor AI, Cerebras, sedang mengalami 'tahun monster' dalam komputasi AI hibrid

Pembuat komputer AI menemukan peran baru dalam membangun cluster komputer besar yang digunakan untuk semua jenis AI dan tugas ilmiah.

Pendiri Cerebras Andrew Feldman pada peti pengepakan untuk Condor Galaxy 1, atau, "CG-1," komputer AI paralel besar yang dibuat untuk klien G42.

Dunia haus akan chip GPU dari vendor kecerdasan buatan yang dominan, Nvidia. Sejauh ini, hal tersebut belum menghasilkan lonjakan berarti dalam penjualan chip oleh kompetitor Advanced Micro Devices dan Intel. Namun hal ini mungkin membantu membangun model komputasi jenis baru.

“Semakin banyak yang tahu bahwa ada satu alternatif selain Nvidia,” kata Andrew Feldman, salah satu pendiri dan CEO startup komputasi AI Cerebras Systems, yang menjual komputer AI raksasa, CS-2, yang menjalankan chip terbesar di dunia. .

Feldman dan timnya mulai menjual komputer untuk bersaing dengan GPU Nvidia empat tahun lalu. Ada kejadian lucu dalam perjalanan menuju pasar. Feldman semakin menyadari bahwa bisnisnya adalah bisnis hybrid, di mana ada beberapa penjualan sistem individual, namun penjualan sistem paralel besar-besaran yang jauh lebih besar yang dibangun Cerebras selama berbulan-bulan, kemudian dijalankan atas nama klien sebagai layanan komputasi awan AI khusus.

Bisnis "telah berubah total" untuk Cerebras, kata Feldman kepada ZDNET. “Daripada membeli satu atau dua mesin, dan melakukan pekerjaan [komputasi] pada satu mesin selama seminggu, pelanggan lebih memilih mengerjakannya di 16 mesin selama beberapa jam” sebagai model layanan cloud.

Hasilnya bagi Cerebras adalah, "Untuk penjualan perangkat keras, Anda dapat melakukan transaksi yang lebih sedikit dan lebih besar, dan Anda akan menghabiskan banyak waktu dan tenaga dalam pengelolaan cloud Anda sendiri."

Pada hari Senin, di konferensi superkomputer di Denver yang disebut SC23, Feldman dan tim meluncurkan pencapaian terbaru dari perluasan cloud AI.

Perusahaan mengumumkan bahwa mereka telah menyelesaikan pembangunan komputer AI raksasa, Condor Galaxy 1, atau, "CG-1", yang dibuat untuk klien G42, sebuah perusahaan investasi berusia lima tahun yang berbasis di Abu Dhabi, Uni Emirat Arab.

“Kami sekarang memiliki begitu banyak kapasitas komputasi super sehingga orang lain dapat menggunakan sistem kami dengan berbagai cara yang kreatif,” kata Feldman dari Condor Galaxy.

Galaksi Condor, yang diumumkan awal tahun ini, diberi nama berdasarkan galaksi spiral yang terletak 212 juta tahun cahaya dari Bumi. Mesin tersebut merupakan koleksi 64 CS-2 Cerebras. Nilai total CG-1, kata Feldman, setara dengan sedikit lebih murah dibandingkan harga chip GPU Nvidia, sekitar $150 juta, berdasarkan harga komputer "DGX" 8-arah Nvidia. .

“Ini adalah bisnis yang sangat bagus,” kata Feldman tentang penjualan tiket dalam jumlah besar. “Kami sedang mengalami tahun yang luar biasa” dalam hal penjualan, katanya. “Kami akan menghasilkan lebih banyak penjualan pada kuartal ini dibandingkan gabungan semua startup AI lainnya dalam sejarah mereka,” tambah Feldman, mengacu pada pesaing seperti Graphcore dan Samba Nova Systems.

Mesin Condor Galaxy tidak secara fisik berada di Abu Dhabi, melainkan dipasang di fasilitas Colovore yang berbasis di Santa Clara, California, penyedia hosting yang bersaing di pasar layanan cloud seperti Equinix.

Cerebras memulai pembangunan versi kedua Condor Galaxy, nomor dua, atau, "CG-2", yang akan menambah 64 komputer dan empat daya komputasi "exaFLOPS" lagi. (ExaFLOP adalah satu miliar, miliar operasi floating point per detik, lihat Wikipedia), dengan total gabungan 8 exaFLOP untuk sistem Condor Galaxy.

Sistem Condor Galaxy diharapkan memiliki total, dalam konfigurasi akhirnya, 36 exaFLOP, menggunakan 576 komputer CS-2, diawasi oleh 654.000 inti CPU AMD.

Dalam model bisnis hybrid baru, kata Feldman, ukuran keberhasilan tidak hanya penjualan sistem tetapi juga tingkat penyewaan kapasitas pelanggan baru di cloud Cerebras tanpa pembelian di muka. “Terkadang Anda mengirimkan perangkat keras kepada mereka dan mereka menyiapkannya, dan Anda menjalankan uji coba atau membuktikannya di lokasi mereka, dan sekarang kami memberi Anda login,” jelas Feldman tentang mode penjualan baru.

Raksasa farmasi GlaxoSmithKline, pelanggan awal perangkat keras CS-2, juga menyewa kapasitas di cloud Cerebras, kata Feldman. “Mereka memiliki perlengkapan kami di lokasi, dan kemudian, ketika mereka ingin melakukan lari besar, mereka datang ke cloud kami,” jelasnya. “Dan itu model yang sangat menarik.”

“Kami sekarang memiliki kapasitas komputasi super yang sangat besar sehingga orang lain dapat menggunakan sistem kami dengan berbagai cara yang kreatif,” kata Feldman. “Di bidang AI, mereka melatih model-model yang menarik, dan di bidang komputasi super, mereka melakukan pekerjaan yang menarik -- dan hal ini tidak terjadi pada orang lain.”

Feldman menyebut pekerjaan AI yang "luar biasa menarik" yang dilakukan di Condor Galaxy adalah pengembangan model bahasa besar sumber terbuka, mirip dengan GPT OpenAI. Program tersebut adalah model berperforma terbaik dengan 3 miliar "parameter" jaringan saraf pada repositori pembelajaran mesin Hugging Face, kata Feldman, dengan lebih dari satu miliar unduhan. Program itu cukup kecil untuk dijalankan di ponsel pintar guna melakukan inferensi AI, dan itulah tujuannya, kata Feldman.

Sebagai contoh karya ilmiah, Feldman mencontohkan makalah penelitian para sarjana di Universitas Sains dan Teknologi King Abdullah di Arab Saudi yang merupakan finalis Gordon Bell Award yang diberikan oleh Association for Computing Machinery, penyelenggara acara SC23.

“Kami memberi mereka waktu di Condor Galaxy sehingga mereka dapat memecahkan rekor pemrosesan seismik,” kata Feldman.

Versi pertama Condor Galaxy, CG-1, membutuhkan waktu 70 hari untuk diselesaikan, kata Feldman. Mesin CG-2 akan selesai "awal tahun depan". Perusahaan telah merencanakan Condor Galaxy-3, yang akan menambah 64 mesin dan 4 exaFLOPS lagi, untuk total sistem 12 exaFLOPS.

Salah satu keunggulan utama mesin seperti Condor Galaxy, baik 1 maupun 2, kata Feldman, adalah rekayasa sistemnya. Menyatukan jumlah chip GPU yang setara sangatlah sulit, katanya kepada ZDNET. “Jumlah orang yang dapat membangun jaringan seribu GPU sangatlah kecil,” kata Feldman. “Mungkin ada 25 perusahaan.”

“Sangat sulit untuk menggunakan komputasi terdistribusi sebanyak itu secara efisien, ini adalah masalah yang sangat, sangat sulit,” kata Feldman. "Itulah salah satu masalah yang pada dasarnya kami pecahkan."

Setiap komputer CS-2 di Condor Galaxy 1 dan 2 berisi salah satu chip AI baru Cerebras, "Wafer-Scale-Engine," atau WSE. Chip-chip tersebut, yang terbesar di dunia, masing-masing berisi 850.000 “core” individu untuk memproses instruksi AI secara paralel, menjadikannya setara dengan beberapa chip GPU.

Selain itu, komputer CS-2 dilengkapi dengan saklar "kain" tujuan khusus Cerebras, Swarm-X, dan hub memori khusus, Memory-X, yang digunakan untuk mengelompokkan CS-2.