Laptop Dell terbaik tahun 2025: Ahli diuji dan diulas
Keynote GTC Nvidia juga mencakup diskusi tentang platform komputer baru untuk perawatan kesehatan, robotika, otomasi industri dan aplikasi otomotif, dan beberapa layanan yang dihosting.
Salah satu pendiri dan CEO Nvidia, Jensen Huang, membuka konferensi GTC musim gugur perusahaan dengan mengumumkan ketersediaan umum bulan depan dari GPU "Hopper" baru perusahaan dalam sistem dari Dell dan lainnya. Keynote ini juga menampilkan komputer untuk perawatan kesehatan, robotika, otomasi industri, dan penggunaan otomotif, serta beberapa layanan cloud termasuk layanan cloud yang dihosting Nvidia untuk model bahasa pembelajaran mendalam seperti GPT-3.
CEO Nvidia Jensen Huang pada hari Selasa membuka konferensi GTC musim gugur perusahaan dengan mengumumkan unit pemrosesan grafis (GPU) "Hopper" perusahaan sedang dalam produksi volume dan akan mulai dikirim dalam sistem oleh mitra termasuk Dell, Hewlett Packard, dan Cisco Systems bulan depan. Sistem Nvidia yang membawa GPU akan tersedia pada kuartal pertama tahun depan, Huang mengumumkan.
Chip Hopper, juga dikenal sebagai "H100", ditujukan untuk tugas-tugas untuk pusat data, seperti kecerdasan buatan. Nvidia mengatakan bahwa H100 dapat "secara dramatis" mengurangi biaya untuk menyebarkan program AI. Misalnya, pekerjaan 320 GPU top-of-the-line sebelumnya, A100, dapat dilakukan hanya dengan 64 chip H100, yang hanya membutuhkan seperlima jumlah komputer server, dan akan mengurangi penggunaan energi sebesar 3,5 kali.
Hopper pertama kali diluncurkan pada bulan Maret oleh Nvidia. Perusahaan menunjukkan beberapa skor tolok ukur untuk chip bulan ini dalam rangkaian tugas pembelajaran mesin MLPerf.
Bersamaan dengan ketersediaan Hopper, Huang membahas penawaran cloud "as-a-service" baru, Nvidia NeMo LLM, untuk "model bahasa besar", menawarkan untuk memungkinkan pelanggan untuk dengan mudah menerapkan model pemrosesan bahasa alami yang sangat besar seperti GPT-3 OpenAI dan Megatron-Turing NLG 530B, model bahasa yang telah dikembangkan Nvidia dengan Microsoft.
Tersedia dalam mode "akses awal" mulai bulan depan, layanan NeMo menyediakan GPT-3 dan model lainnya dengan cara yang telah dilatih sebelumnya dan dapat disetel oleh pengembang menggunakan metode yang disebut Nvidia sebagai "pembelajaran cepat," yang diadaptasi Nvidia dari teknik yang diperkenalkan oleh para ilmuwan di Google tahun lalu.
Versi NeMo akan dihosting khusus untuk penggunaan biomedis dari model bahasa besar seperti penemuan obat, yang disebut Layanan NVIDIA BioNeMo.
Nvidia mengatakan GPU Hopper dapat mengurangi node komputer yang diperlukan untuk menjalankan tugas AI besar sebesar empat perlima dibandingkan dengan GPU pusat data pendahulunya, A100.
Selama konferensi pers tentang pengumuman tersebut, ZDNet bertanya kepada kepala komputasi akselerasi Nvidia, Ian Buck, pagar pembatas apa yang akan dilembagakan perusahaan untuk mencegah penyalahgunaan model bahasa besar yang telah didokumentasikan dengan baik dalam literatur tentang etika AI.
"Ya, pertanyaan bagus, layanan ini akan masuk ke EA [akses awal] mulai bulan depan, dan langsung ke perusahaan dan kami benar-benar melakukan ini untuk terlibat dengan perusahaan yang berbeda, perusahaan yang berbeda untuk mengembangkan alur kerja mereka," kata Buck.
Ditambahkan Buck,
Mereka akan melakukan apa saja, jelas, bersama dengan Nvidia, dan setiap pengguna akan mengajukan akses ke layanan tersebut, jadi, kami akan memahami sedikit lebih banyak tentang apa yang mereka lakukan versus penawaran umum dan terbuka dengan cara itu. Sekali lagi, kami mencoba untuk fokus untuk membawa model bahasa besar ke perusahaan dan itu adalah pelanggan kami masuk ke pasar.
ZDNet menindaklanjuti dengan mencatat kepada Buck bahwa penyalahgunaan dalam literatur tentang model bahasa besar termasuk bias yang tertanam dalam data pelatihan, tidak harus penggunaan berbahaya.
"Apakah pendapat Anda bahwa jika akses terbatas ke mitra perusahaan, tidak akan ada jenis penyalahgunaan yang terdokumentasi seperti bias dalam materi pelatihan dan produk keluaran?" tanya ZDNet.
Jawab Buck,
Ya. Maksud saya, pelanggan akan membawa kumpulan data mereka sendiri ke pelatihan domain, jadi, tentu saja mereka harus memikul sebagian tanggung jawab itu, dan kita semua, sebagai komunitas, perlu memikul tanggung jawab. Hal-hal ini dilatih di Internet. Ini perlu dipahami, dan dicakup untuk apa yang sekarang untuk solusi khusus domain. Masalahnya sedikit lebih terbatas karena kami mencoba menyediakan layanan tunggal untuk kasus penggunaan tertentu. Bias itu akan ada. Manusia memiliki bias, dan sayangnya ini telah dilatih, tentu saja, pada masukan manusia.
Presentasi tersebut juga mencakup sekumpulan platform komputer khusus untuk berbagai industri termasuk perawatan kesehatan, dan untuk OmniVerse, platform perangkat lunak Nvidia untuk Metaverse.
Platform tersebut termasuk IGX untuk aplikasi perawatan kesehatan, IGX untuk pabrik, versi baru sistem komputasi OVX yang didedikasikan untuk pengembangan OmniVerse, dan versi baru dari platform komputasi DRIVE Nvidia untuk mobil, yang disebut DRIVE Thor, yang akan menggabungkan GPU Hopper dengan CPU Nvidia yang akan datang, "Grace."