Bisakah AI membuat Anda menjadi miliarder pada tahun 2025?

Intel pada hari Selasa meluncurkan prosesor deep learning generasi kedua untuk pelatihan dan inferensi, Habana Gaudi2 dan Habana Greco sambil berbagi detail tentang IPU dan GPU lainnya di acara Intel Vision.

Intel pada hari Selasa meluncurkan generasi terbaru dari prosesor pembelajaran mendalam untuk pelatihan dan inferensi, Habana Gaudi2 dan Habana Greco, membuat AI lebih mudah diakses dan berharga bagi pelanggan pusat datanya. Pada acara Intel Vision, pembuat chip juga membagikan detail tentang portofolio IPU dan GPU-nya, semuanya ditujukan untuk pelanggan bisnis. 

"AI menggerakkan pusat data," kata Eitan Medina, COO Habana Labs, tim pusat data Intel yang berfokus pada teknologi prosesor pembelajaran mendalam AI, kepada wartawan sebelumnya. "Ini adalah aplikasi yang paling penting dan tumbuh paling cepat. Tetapi pelanggan yang berbeda menggunakan campuran yang berbeda untuk aplikasi yang berbeda."

Kasus penggunaan yang bervariasi menjelaskan investasi Intel dalam keragaman chip pusat data. Prosesor Habana dirancang untuk pelanggan yang membutuhkan komputasi pembelajaran mendalam. Prosesor Gaudi2 baru, misalnya, dapat meningkatkan pemodelan visi aplikasi yang digunakan dalam kendaraan otonom, pencitraan medis, dan deteksi cacat dalam manufaktur. Intel membeli Habana Labs, pembuat chip yang dapat diprogram yang berbasis di Israel, seharga sekitar $2 miliar pada tahun 2019.

Chip Gaudi2 dan Greco generasi kedua diimplementasikan dalam teknologi 7-nanometer, peningkatan dari 16-nanometer untuk generasi pertama. Mereka diproduksi dengan arsitektur efisiensi tinggi Habana. 

Intel mengatakan pada hari Selasa bahwa Gaudi2 memberikan throughput pelatihan dua kali lipat dibandingkan GPU A100-80GB Nvidia untuk model visi komputer ResNet-50 dan model pemrosesan bahasa alami BERT.

"Dibandingkan dengan GPU A100, yang diimplementasikan dalam node proses yang sama dan ukuran die yang kira-kira sama, Gaudi2 memberikan kinerja pelatihan kepemimpinan yang jelas seperti yang ditunjukkan dengan perbandingan apple-to-apple pada beban kerja utama," kata Medina dalam sebuah pernyataan. "Arsitektur akselerasi pembelajaran mendalam ini pada dasarnya lebih efisien dan didukung dengan peta jalan yang kuat."

Lebih lanjut tentang Gaudi2:

  • Dibandingkan dengan Gaudi generasi pertama, ini memberikan performa harga hingga 40% lebih baik di cloud AWS dengan instans DL1 Amazon EC2 dan on-premise dengan Supermicro X12 Gaudi Training Server
  • memperkenalkan mesin pemrosesan media terintegrasi untuk media terkompresi dan membongkar subsistem host
  • Gaudi2 melipatgandakan kapasitas memori dalam paket dari 32GB menjadi 96GB HBM2E pada bandwidth 
    2,45TB/detik
  • mengintegrasikan 24 x 100GbE RoCE RDMA NIC, on-chip, untuk peningkatan dan penskalaan menggunakan Ethernet standar

Prosesor Gaudi2 sekarang tersedia untuk pelanggan Habana. Habana telah bermitra dengan Supermicro untuk membawa Server Pelatihan Supermicro Gaudi2 ke pasar tahun ini. 

Sementara itu, chip inferensi Greco generasi kedua akan tersedia untuk pelanggan tertentu mulai paruh kedua tahun ini. 

Lebih lanjut tentang Greco generasi kedua: 

  • Termasuk memori yang ditingkatkan pada kartu, pada dasarnya mendapatkan bandwidth 5x dan mendorong memori on-chip dari 50MB menjadi 120MB
  • Menambahkan decoding dan pemrosesan media
  • Menawarkan faktor bentuk yang lebih kecil untuk efisiensi komputasi: dari FHFL slot ganda hingga slot tunggal

"Gaudi2 dapat membantu pelanggan Intel melatih beban kerja deep learning yang semakin besar dan kompleks dengan kecepatan dan efisiensi, dan kami mengantisipasi efisiensi inferensi yang akan dibawa Greco," kata EVP Intel Sandra Rivera dalam sebuah pernyataan. 

Intel pada hari Selasa juga meluncurkan peta jalan yang diperpanjang untuk portofolio Infrastructure Processing Unit (IPU). Intel awalnya membangun IPU untuk raksasa cloud - hyperscaler seperti Google dan Facebook - tetapi sekarang memperluas akses.

Intel mengirimkan dua IPU tahun depan: Mount Evans, IPU ASIC pertama Intel, dan Oak Springs Canyon, IPU FPGA generasi kedua Intel yang dikirim ke Google dan penyedia layanan lainnya. 

Pada tahun 2023 dan 2024, Intel berencana untuk meluncurkan IPU generasi ketiga, 400GB -- dengan nama kode Mount Morgan dan Hot Springs Canyon. Pada tahun 2025 dan 2026, Intel mengharapkan untuk mengirimkan 800GB IPU ke pelanggan dan mitra.

Intel pada hari Selasa juga membagikan rincian tentang GPU pusat datanya, dengan nama kode Arctic Sound. Dirancang untuk transcoding media, grafik visual, dan inferensi di cloud, Arctic Sound-M (ATS-M) adalah GPU diskrit pertama di industri dengan encoder perangkat keras AV1. Ini menawarkan kinerja yang menargetkan 150 triliun operasi per detik (TOPS). ATS-M akan tersedia dalam dua faktor bentuk dan dalam lebih dari 15 desain sistem dari mitra, termasuk Dell, Supermicro, Inspur, dan H3C. Ini akan diluncurkan pada kuartal ketiga tahun ini.

Artikel terkait