Untuk era AI PC, inilah ujian kecepatan baru
Tolok ukur Klien MLPerf yang baru akan menilai seberapa baik kinerja chip dan sistem dengan AI generatif pada desktop, laptop, dan workstation, dimulai dengan Llama 2 LLM dari Meta.
PC baru kini tersedia dengan chip Core Ultra yang dipamerkan di acara Intel.
Tahun ini akan menjadi tahun "AI PC", setidaknya menurut CEO Intel dan Advanced Micro Devices (AMD), yang telah mengisyaratkan niat mereka untuk menghadirkan kemampuan kecerdasan buatan yang berarti ke komputer pribadi bersama dengan mitra mereka, Dell. , HP, Inc., dan Lenovo, antara lain.
Untuk mengantisipasi gelombang laptop dan desktop dengan kemampuan AI khusus, organisasi terkemuka di industri komputer yang melakukan pemeringkatan kinerja jaringan saraf minggu ini mengumumkan pembentukan upaya baru untuk melakukan benchmark AI pada komputer pribadi.
Tolok ukur Klien MLPerf yang baru akan menilai seberapa baik kinerja chip dan sistem dengan AI generatif pada desktop, laptop, dan workstation, kata MLCommons, konsorsium industri yang telah menerbitkan berbagai tolok ukur AI selama lima tahun, dalam sebuah posting blog.
Intel dan AMD berharap kemampuan AI baru akan meningkatkan penjualan desktop.
Tolok ukur awal akan fokus pada pengukuran seberapa cepat komputer membuat prediksi, yang umumnya dikenal sebagai “inferensi”, dibandingkan dengan “pelatihan”, yaitu saat jaringan saraf pertama kali dikembangkan. Sebagian besar perangkat komputasi klien tidak memiliki kekuatan yang diperlukan untuk melakukan pelatihan jaringan saraf, jadi inferensi adalah awal yang logis.
Tes inferensi benchmark pertama akan melibatkan tugas-tugas menggunakan model bahasa besar Llama 2 sumber terbuka Meta.
Ketua bersama kelompok kerja Klien MLPerf termasuk Ramesh Jaladi, direktur senior teknik di grup Kinerja IP di Intel; Yannis Minadakis, mitra GM, pengembangan perangkat lunak di Microsoft; dan Jani Joki, direktur benchmarking kinerja di NVIDIA.
Tolok ukur baru ini tepat pada waktunya karena para eksekutif PC menaruh harapan mereka untuk kebangkitan pasar PC yang hampir mati pada pemrosesan AI lokal sebagai tambahan terhadap pemrosesan berbasis cloud yang saat ini mendominasi AI. Penjualan PC turun 15% tahun lalu dalam hal unit, tahun terburuk dalam sejarah PC, menurut perusahaan riset Gartner.
Dalam sebuah acara media bulan lalu, CEO Intel Pat Gelsinger memuji chip desktop terbaru perusahaan, Core Ultra, dengan kode nama “Meteor Lake,” sebagai platform AI. Untuk pertama kalinya dalam prosesor desktop Intel mana pun, chip ini menyertakan unit akselerator khusus untuk AI, yang disebut unit pemrosesan saraf (NPU).
Sirkuit NPU tersebut akan memungkinkan "tingkat baru akselerasi AI hemat daya dengan efisiensi daya 2,5x lebih baik dibandingkan generasi sebelumnya" pada chip Core, menurut Intel.
Waktu rilis benchmark pertama kemungkinan akan memakan waktu beberapa bulan lagi, kata MLCommons kepada ZDNET melalui email. Laporan benchmark lainnya biasanya diterbitkan dua kali setahun.