Bagaimana pusat data Anda yang tidak efisien menghambat keberlanjutan - dan adopsi AI
Tuntutan daya dari beban kerja AI hanya akan memperburuk tantangan yang dihadapi perusahaan, kata kepala teknologi HPE dalam transformasi berkelanjutan.
Organisasi masih memilih untuk menyediakan pusat data dan kebutuhan TI mereka secara berlebihan, yang dapat menghalangi upaya untuk menjalankan fasilitas ini secara lebih berkelanjutan.
Misalnya, bukan hal yang aneh bagi perusahaan untuk mematikan fitur-fitur yang membuat sistem berjalan secara efisien, kata John Frey, kepala teknologi transformasi berkelanjutan di Hewlett Packard Enterprise (HPE), kepada ZDNET. Frey menjelaskan bahwa HPE mengirimkan perangkatnya untuk beroperasi pada tingkat paling efisien, dengan kinerja daya yang dioptimalkan. Sayangnya, pelanggan sering kali mematikan pengaturan default segera setelah mereka menerima produk baru, karena khawatir hal itu akan menghilangkan daya komputasi yang dibutuhkan sistem untuk berjalan tanpa jeda.
“Jadi kami dapat merancang produk kami untuk beroperasi dengan cara yang paling efisien dan mengaturnya sebagai default. Pertanyaannya adalah, bagaimana kami membuat pelanggan membiarkannya [berjalan] seperti itu,” jelas Frey kepada ZDNET di sela-sela dari HPE Discover 2024.
Frey mencatat bahwa, sering kali, bisnis mengoperasikan pusat data dan infrastruktur TI mereka dengan tingkat pemanfaatan sebesar 30%, dan memilih untuk melakukan penyediaan secara berlebihan untuk mengurangi kekhawatiran mereka mengenai sistem yang terus beroperasi dengan lancar. Bisnis-bisnis ini berakhir dengan tumpukan perangkat keras yang sangat efisien, namun digunakan secara tidak efisien, katanya. Dia menambahkan bahwa sebagian besar upaya HPE ditujukan untuk membantu pelanggan menggunakan produknya secara lebih efisien, yang pada gilirannya akan mengurangi energi yang dibutuhkan untuk menggerakkan sistem ini.
Edukasi pelanggan dan perubahan pola pikir berperan besar dalam mendorong upaya keberlanjutan secara keseluruhan, kata Frey. HPE juga menyediakan whitepaper dan studi kasus, termasuk kerangka adopsi yang memandu pelanggan melalui perubahan.
Frey mencatat bahwa metrik dan analitik juga berperan dalam mengukur keuntungan bagi dunia usaha, baik dalam bentuk dolar, pengurangan risiko, peningkatan ketahanan, pengurangan emisi karbon, atau manfaat keamanan siber.
Meskipun peraturan dan mandat beberapa standar operasional ini dapat membantu mendorong penerapannya, hal ini harus dilaksanakan melalui kerja sama dengan industri dan komunitas pengguna, kata Frey. Hal ini akan memastikan tidak adanya konsekuensi yang tidak diinginkan, seperti buruknya kinerja di bidang lain. Kebijakan yang mengarah pada hasil yang tidak diinginkan dapat memaksa perusahaan untuk memindahkan beban kerja ke luar negara yang mengaturnya, dan hal ini bukanlah hal yang diinginkan pemerintah dalam menetapkan mandat ini, tambahnya.
Ketika ditanya tentang hambatan utama dalam membangun pusat data yang lebih berkelanjutan, Frey mencatat bahwa strategi universal tidak lagi berhasil, terutama di tengah antisipasi lonjakan beban kerja kecerdasan buatan (AI). Fasilitas yang mendukung aplikasi AI kemungkinan besar memerlukan pendingin cair untuk mempertahankan atau meningkatkan efisiensi energi di lingkungan intensif komputasi ini. Di sisi lain, memanfaatkan udara sekitar mungkin cukup untuk mendinginkan bagian dalam pusat data yang menjalankan aplikasi untuk tujuan umum, jelas Frey.
Upaya untuk mengatasi suhu yang lebih tinggi, seperti standar pengoperasian pusat data Singapura untuk iklim tropis, juga lebih cocok untuk beban kerja tradisional, kata Frey. Ketika perusahaan-perusahaan bergerak menuju kepadatan daya rak yang lebih tinggi dengan penerapan AI, mereka mungkin perlu beralih ke lingkungan pendingin cair, katanya.
Pada akhirnya, Frey yakin, sebagian besar operator pusat data akan bergerak ke arah yang sama, karena prosesor baru yang lebih bertenaga menghasilkan lebih banyak panas karena mampu menangani lebih banyak tugas.
Rata-rata rak TI biasanya beroperasi dengan daya antara 3 dan 5 kilowatt (kW). Jumlah ini telah meningkat dalam dekade terakhir hingga lebih dari 20kW untuk beban kerja komputasi umum, katanya. Kebutuhan daya semakin meningkat dengan rak yang menjalankan beban kerja AI atau model kereta api, yang mencapai lebih dari 50kW per rak. Udara sekitar saja tidak cukup untuk mendinginkan lingkungan seperti itu, sehingga mendorong perlunya pendingin cair, kata Frey.
Faktanya, permintaan untuk pendingin cair telah mendorong pasar manajemen termal pusat data menjadi $7,67 miliar, menurut perusahaan riset dan penasihat teknologi Omdia. Pertumbuhan tersebut diperkirakan akan meningkat dengan tingkat pertumbuhan tahunan gabungan sebesar 18,4% menjadi $16,8 miliar pada tahun 2028, yang didorong oleh penerapan dan pengembangan AI.
Secara khusus, pendinginan cair telah mengalami pertumbuhan yang signifikan di Tiongkok dan Amerika Utara, kata Omdia. “Manajemen termal pusat data mengalami kemajuan karena pengaruh AI yang semakin besar dan persyaratan keberlanjutan,” kata perusahaan riset tersebut. “Meskipun memiliki prospek pertumbuhan yang kuat, industri ini menghadapi tantangan berupa kendala rantai pasokan dalam pendingin cair dan penerapan praktik berkelanjutan.”
Omdia menambahkan bahwa integrasi sistem pendingin yang dioptimalkan AI, kemitraan vendor strategis, dan dorongan berkelanjutan terhadap solusi hemat energi dan ramah lingkungan akan membentuk perkembangan industri.