Berkat PC AI, Spesifikasi Komputer Secara Umum Siap Meningkat

Poin Penting

PC AI memerlukan memori dan penyimpanan yang signifikan untuk pemrosesan lokal.
Komputer baru dengan NPU khusus diperlukan untuk fitur AI seperti Copilot Microsoft.
RAM 16GB adalah jumlah minimum untuk PC AI, dan 32GB direkomendasikan bagi mereka yang peduli dengan fitur AI.

Era "AI PC" sudah dekat, dan Anda akan segera memiliki opsi untuk menjalankan beberapa fitur AI secara lokal tanpa koneksi internet bahkan pada sistem yang relatif sederhana. Namun, yang mungkin tidak Anda sadari adalah meskipun memiliki akselerator AI, komputer ini tetap memerlukan banyak memori dan penyimpanan hanya untuk menawarkan fitur AI lokal.

PC AI Memiliki Kekuatan untuk Pemrosesan Lokal

Fitur Copilot AI dari Microsoft adalah salah satu alasan utama munculnya komputer generasi baru dengan NPU (Neural Processing Unit) khusus. Itulah salah satu alasan mengapa perangkat Surface Pro baru memiliki prosesor ARM Snapdragon yang biasanya ditemukan di ponsel. Saat ini, persyaratan minimum untuk PC Copilot AI adalah NPU dengan 40 TOPS (Triliun Operasi Per Detik) dan itulah yang dikemas oleh chip baru ini di dalamnya.

Ada banyak alasan untuk menginginkan fitur AI lokal. Cepat, Anda tidak bersaing untuk mendapatkan sumber daya dengan pengguna lain, dan Anda tidak perlu membayar melebihi biaya perangkat keras. Memberi laptop Anda kecerdasan dalam satu kesatuan dengan ChatGPT dan perangkat sezamannya tentu saja menarik!

Bahkan LLM “Kecil” pun Besar

Masalahnya, “model” AI ini cukup besar. LLM (Model Bahasa Besar) terkecil dan paling efisien mungkin memerlukan memori 1-3 GB, namun tidak terlalu pintar. Seiring dengan bertambahnya parameter dan kemampuan model, model memerlukan lebih banyak ruang. LLM super cerdas yang Anda akses melalui web mungkin memiliki RAM yang berkisar ratusan Gigabyte jika dilihat dari ukuran modelnya. Dengan ratusan miliar, atau bahkan lebih dari satu triliun parameter dalam beberapa kasus, model AI ini bukan untuk dijalankan oleh laptop kecil yang suka berkelahi!

Lalu kami memiliki LLM yang cukup kecil untuk dijalankan di ponsel pintar, seperti phi-3-mini yang memiliki kapasitas 2,4 GB. Ini lebih sesuai dengan apa yang sebenarnya akan berjalan pada laptop AI ini, meskipun mungkin tidak terlalu anemia!

Model Harus Hidup dalam RAM

Meskipun model AI memerlukan ruang beberapa GB mungkin kedengarannya bukan masalah besar, Anda harus memahami bahwa keseluruhan model harus menggunakan RAM agar teknologi dapat bekerja dengan kinerja yang baik. NPU tersebut adalah prosesor paralel khusus, yang menghitung angka-angka pada jaringan saraf virtual ini. dengan miliaran "parameter" pada saat yang bersamaan.

Jika model tidak menggunakan RAM, maka NPU tidak dapat diumpankan dengan cukup cepat untuk memberikan Anda hasil yang cukup cepat. hal ini akan berdampak pada kecepatan balasan LLM, atau fungsi seperti terjemahan waktu nyata, atau pembuatan gambar. Jadi jika Anda ingin fitur AI tersedia hanya dengan menekan satu tombol atau hanya dengan berbicara ke komputer Anda, model tersebut pada dasarnya perlu mencadangkan RAM sebanyak yang dibutuhkan.

Yang pasti, semua PC baru ini memiliki SSD ultra-cepat yang dapat menukar data masuk dan keluar dari RAM dengan cepat, namun terlepas dari keausan tambahan yang terjadi pada SSD Anda, SSD Anda masih belum cukup cepat untuk menjalankan semuanya dengan lancar. dan jangan lupa Anda masih ingin menjalankan semua aplikasi Anda yang lain secara bersamaan! Jika PC Anda harus membuang browser dan aplikasi lain dari RAM ke disk setiap kali Anda ingin AI melakukan sesuatu, itu bukan pengalaman yang luar biasa.

16GB Adalah Minimum Mutlak

Meskipun RAM 8GB masih cukup baik untuk desktop kantor modern atau laptop yang digunakan untuk produktivitas umum dan konsumsi media, komputer Windows dengan fitur AI tidak akan bertahan dengan ruang sekecil itu. Itulah sebabnya Microsoft menjadikan RAM 16GB sebagai minimum mutlak untuk PC Copilot.

Meskipun jumlah tersebut merupakan jumlah yang wajar untuk PC non-AI pada umumnya, saya merasa bahwa untuk PC yang selalu menjalankan asisten AI lokal di latar belakang, jumlah ini akan lebih seperti PC 8GB plus AI, kecuali Anda menonaktifkan bagian AI dari PC tersebut. persamaan.

Beberapa PC AI Tidak Memiliki RAM yang Dapat Diupgrade

Jika PC AI Windows baru Anda menggunakan sistem-on-a-chip terintegrasi atau RAM-nya disolder secara permanen, seperti halnya dengan banyak laptop tipis dan ringan, maka Anda akan terjebak dengan jumlah RAM berapa pun yang dimiliki sistem. dengan. Artinya, Anda perlu mendapatkan jumlah RAM yang Anda perlukan sejak awal, atau Anda akan membutuhkan komputer yang benar-benar baru jika ternyata Anda salah menghitung jumlahnya.

Beberapa waktu yang lalu, saya melihat apakah RAM 32GB bukanlah jumlah yang diharapkan, dan kesimpulan saya adalah jumlah memori ini masih berlebihan untuk rata-rata pengguna. Namun, dengan mempertimbangkan ukuran model AI di masa depan, menurut saya 32GB adalah hal yang harus dituju oleh siapa pun yang peduli dengan fitur AI ini.

Jika Anda Peduli Dengan AI, Dapatkan Lebih Banyak Memori

Tentu saja, apakah Anda peduli dengan fitur AI lokal atau tidak, itulah yang sebenarnya penting di sini. Jika tidak, bagus sekali PC Copilot ini mendorong minimum RAM hingga 16 GB. Nonaktifkan atau abaikan saja bagian AI dari persamaan tersebut dan Anda akan baik-baik saja. Faktanya, kecuali Anda memiliki alasan alternatif yang kuat, lewati PC AI ini sepenuhnya dan tetap gunakan opsi yang lebih umum.

Sebaliknya, jika Anda tertarik dengan fitur AI lokal dan melihat banyak cara untuk menggunakan alat ini di masa mendatang, jangan puas dengan persyaratan minimum kecuali Anda memiliki opsi untuk menambahkan lebih banyak RAM nanti.