Nvidia bekerja sama dengan Snowflake untuk model AI bahasa besar
Snowflake memperluas penawaran Snowpark dengan instans GPU untuk menjalankan model dasar dari kerangka kerja NeMo Nvidia -- untuk dilatih lebih lanjut tentang data pelanggan yang disimpan di Snowflake.
Pada konferensi pengguna Snowflake di Las Vegas hari Senin, Snowflake Summit 2023, pembuat database cloud tersebut mengumumkan kemitraan dengan raksasa chip Nvidia yang menggabungkan kekuatan untuk memproses apa yang disebut model dasar untuk AI.
Menurut perjanjian tersebut, pelanggan Snowflake akan dapat menyewa kapasitas GPU cloud di instalasi gudang data Snowflake, dan mereka akan menggunakan kapasitas tersebut untuk menyempurnakan jaringan saraf dengan kerangka kerja NeMo Nvidia, yang diperkenalkan pada musim gugur lalu. Model dasar adalah jaringan saraf yang sangat besar, seperti model bahasa besar, yang biasanya "dilatih sebelumnya" -- yaitu, model tersebut telah dikembangkan hingga tingkat kemampuan tertentu.
Pelanggan akan menggunakan gudang data Snowflake untuk menggunakan data milik pelanggan guna mengembangkan versi kustom model dasar NeMo agar sesuai dengan kebutuhan mereka.
“Ini adalah kombinasi yang sangat alami bagi kedua perusahaan,” kata wakil presiden komputasi perusahaan Nvidia, Manuvir Das, dalam konferensi pers. Da melanjutkan:
“Agar Nvidia dan Snowflake berkumpul dan berkata, jika perusahaan perlu membuat model khusus untuk AI generatif berdasarkan data mereka, dan data tersebut disimpan di cloud data Snowflake, mengapa kita tidak menggunakan mesin Nvidia sebagai model? membuat, yaitu NeMo, ke dalam cloud data Snowflake sehingga pelanggan perusahaan, langsung di cloud data mereka, dapat menghasilkan model-model ini yang kemudian dapat mereka gunakan untuk kasus penggunaan dalam bisnis mereka."
Pengumuman ini merupakan bagian dari tren yang berkembang dalam penggunaan AI, dan khususnya AI generatif, sebagai alat bisnis. Pada hari Senin, pengembang Apache Spark, Databricks, mengejutkan industri teknologi dengan akuisisi startup MosesML senilai $1,3 miliar, yang menjalankan layanan untuk melatih dan menerapkan model dasar.
Snowflake akan mengimplementasikan layanan ini dengan membeli instance GPU Nvidia dari penyedia layanan cloud yang sudah bekerja sama dengannya. “Sekarang, kami hanya berbicara tentang perluasan [hubungan] tersebut untuk menyertakan instance berbasis GPU,” kata Das.
Dalam rilis terpisah pada hari Selasa, Snowflake mengatakan akan memperluas platform pengembang Snowpark dengan apa yang disebutnya Layanan Kontainer Snowpark, yang saat ini dalam pratinjau pribadi. Perusahaan ini "memperluas cakupan Snowpark sehingga pengembang dapat membuka opsi infrastruktur yang lebih luas seperti komputasi yang dipercepat dengan GPU Nvidia dan perangkat lunak AI untuk menjalankan lebih banyak beban kerja dalam platform Snowflake yang aman dan terkelola tanpa kerumitan," menurut rilis tersebut, "termasuk jangkauan yang lebih luas model AI dan pembelajaran mesin (ML), API, aplikasi yang dikembangkan secara internal, dan banyak lagi."
Menanggapi pertanyaan dari ZDNET tentang bagaimana data pelanggan akan dilindungi dalam pengaturan antara keduanya, Das mengindikasikan bahwa tanggung jawab utama terletak pada Snowflake.
“Snowflake memiliki konstruksi desain untuk memastikan bahwa ketika pelanggan memilih untuk melakukan komputasi pada cloud data Snowflake, komputasi tersebut tetap berada dalam batasan pelanggan tersebut,” kata Das, “dan kemudian mesin NeMo akan cocok dengan model tersebut.”
Das menambahkan: "Tentu saja, ada tanggung jawab bagi NeMo juga" untuk keamanan, "dan itulah mengapa ini merupakan pekerjaan rekayasa bersama."
Kemitraan ini mengikuti pengumuman baru-baru ini oleh Nvidia dengan ServiceNow untuk menggunakan NeMo dengan pelanggan ServiceNow dalam layanan TI. Jika pengaturan Snowflake bersifat "tujuan umum", kata Das, kemitraan ServiceNow "lebih merupakan model ISV (vendor perangkat lunak independen)." ServiceNow menggunakan kode NeMo untuk melatih model pelanggan bagi setiap pelanggan mereka, "sehingga ketika setiap pelanggan melakukan pekerjaan TI mereka, dan membuka tiket [masalah], mereka akan mendapatkan respons yang spesifik untuk pelanggan tersebut."
CEO Nvidia Jensen Huang telah memposisikan perangkat lunak sebagai vektor pertumbuhan penting bagi perusahaannya, yang menghasilkan miliaran dolar dengan menjual perangkat keras GPU untuk mengembangkan jaringan saraf. NeMo adalah bagian dari rangkaian perangkat lunak perusahaan yang dipromosikan perusahaan, sebagian besar melalui kemitraan dengan penyedia cloud.
Pada bulan Maret, CFO Nvidia Colette Kress mengatakan kepada investor di konferensi Morgan Stanley, "Bisnis perangkat lunak kami saat ini mencapai pendapatan ratusan juta dolar dan kami melihat ini masih merupakan peluang pertumbuhan seiring berjalannya waktu."