Samsung menjadi yang pertama memperkenalkan HBM3E 12-tumpukan di tengah tingginya permintaan dari AI
Pembuat chip memori terbesar di dunia ini meluncurkan HBM tercanggihnya hingga saat ini untuk memanfaatkan pemulihan pasar dan tingginya permintaan dari AI.
Gambar: Samsung
Samsung mengatakan pada hari Selasa bahwa mereka telah mengembangkan DRAM HBM3E 12-tumpukan pertama di industri, menjadikannya memori bandwidth tinggi dengan kapasitas tertinggi hingga saat ini.
Raksasa teknologi asal Korea Selatan tersebut mengatakan DRAM HBM3E 12H memberikan bandwidth maksimum 1.280GB/s dan kapasitas 36GB. Bandwidth dan kapasitas semuanya meningkat sebesar 50% dibandingkan dengan HBM3 8-tumpukan, kata Samsung.
HBM terdiri dari beberapa modul DRAM yang ditumpuk secara vertikal, masing-masing disebut tumpukan atau lapisan. Untuk Samsung terbaru, setiap modul DRAM berkapasitas 24 gigabit (Gb) setara dengan 3 gigabyte (GB), dan jumlahnya ada dua belas.
Pembuat memori Samsung, SK Hynix, dan Micron berlomba-lomba untuk menumpuk lebih banyak sekaligus membatasi tinggi tumpukan untuk membuat chip setipis mungkin dengan kapasitas lebih besar.
Ketiganya berencana untuk meningkatkan produksi HBM mereka tahun ini, seiring dengan berakhirnya siklus penurunan pasar chip memori, dan untuk memenuhi tingginya permintaan dari popularitas AI, yang telah meningkatkan permintaan akan GPU -- terutama yang dibuat oleh Nvidia -- yang dipasangkan dengan HBM ini.
Menurut Samsung, mereka menerapkan film non-konduktif kompresi termal canggih (TC NCF) untuk membuat HBM3E 12-tumpukan memiliki ketinggian yang sama dengan HBM3E 8-tumpukan untuk memenuhi persyaratan paket. Film ini lebih tipis dari yang digunakan sebelumnya dan menghilangkan kekosongan di antara tumpukan dan jarak di antara keduanya dikurangi menjadi tujuh mikrometer, kata perusahaan, sehingga memungkinkan HBM3E 12 tumpukan menjadi lebih padat secara vertikal sebesar lebih dari 20% dibandingkan dengan HBM3 8 tumpukan .
Samsung mengatakan TC NCF juga mengizinkan penggunaan benjolan kecil dan besar, di mana selama pengikatan chip, benjolan kecil digunakan di area untuk memberi sinyal dan benjolan besar digunakan di tempat yang memerlukan pembuangan panas.
Raksasa teknologi itu mengatakan kinerja dan kapasitas HBM3E 12H yang lebih tinggi akan memungkinkan pelanggan mengurangi total biaya kepemilikan pusat data. Untuk aplikasi AI, kecepatan rata-rata pelatihan AI dapat ditingkatkan sebesar 34% dan jumlah pengguna layanan inferensi secara simultan dapat ditingkatkan sebesar 11,5 kali lipat dibandingkan dengan HBM3 8H, klaim Samsung.
Perusahaan telah memberikan sampel HBM3E 12H kepada pelanggan dan berencana memulai produksi massal pada paruh pertama tahun ini.