KUATKEUANGAN.COM — Nvidia memperkenalkan platform DSX yang diklaim mampu mendongkrak kepadatan komputasi pusat data hingga 24 persen dalam anggaran daya yang sama. Langkah ini menyasar persoalan yang kian mendesak: kapasitas jaringan listrik yang terbatas sementara permintaan GPU terus melonjak. Platform ini juga memberi operator kemampuan mengurangi beban listrik secara instan saat jaringan publik menegang.
Nvidia tidak bisa memaksa operator jaringan listrik menambah kapasitas lebih cepat. Yang bisa dilakukan perusahaan chip asal Santa Clara itu adalah membuat pelanggannya membangun pusat data yang lebih cerdas dan efisien. Platform DSX menjadi jawaban atas persoalan tersebut.
Dion Harris, senior director Nvidia HPC and AI Hyperscale Infrastructure Solutions, menyatakan pihaknya berupaya mengeruk setiap tetes efisiensi demi mendorong performa per gigawatt. Pernyataan itu disampaikannya dalam wawancara dengan The Register.
Masalah Daya Terbuang di Pusat Data
Pusat data jarang beroperasi mendekati kapasitas puncaknya. Sebuah fasilitas berdaya 100 megawatt biasanya hanya memakai sekitar 80 persen untuk beban komputasi kritis.
Sisanya menjadi penyangga bagi inefisiensi perangkat keras, kerugian konversi daya, dan lonjakan permintaan. Akibatnya, sekitar 20 megawatt daya menganggur — tidak bisa dipakai pusat data, tidak pula bisa ditarik kembali oleh perusahaan listrik.
Setiap kilowatt daya terbuang berarti satu GPU yang gagal terjual Nvidia. Dari situlah DSX MaxLPS bekerja.
Ketika Perangkat Keras Akhirnya Saling Bicara
DSX MaxLPS sejatinya pengembangan dari gagasan lama. Jika perangkat komputasi dan seluruh infrastruktur fisik — kabinet daya, baterai, unit distribusi pendingin, hingga mesin pendingin — bisa saling berkomunikasi, operator dapat menghemat daya secara signifikan.
Contohnya, penangan udara bisa menyesuaikan diri berdasarkan daya yang ditarik rak, bukan berjalan maksimal sepanjang waktu. Kendalanya klasik: menyatukan sistem dari puluhan vendor berbeda agar berbicara dalam bahasa yang sama.
Harris menjelaskan situasi berubah seiring meluasnya penerapan sistem AI. Pusat data yang lebih efisien menghasilkan lebih banyak token, yang berarti pendapatan lebih tinggi.
Nvidia tetap perlu menangani lapisan komunikasi. DSX Exchange hadir sebagai API yang menangkap informasi bukan hanya dari sistem inti, tetapi juga dari penyedia berstatus DSX-ready seperti Vertiv dan Schneider Electric beserta seluruh sistem manajemen gedung.
Uji Coba Lambda: 19 Node di Ruang 16 Node
Dalam pengujian bersama Lambda, pendekatan itu mampu memadatkan 19 node ke dalam anggaran daya yang biasanya hanya cukup untuk 16 node. Throughput seluruh klaster naik 24 persen, begitu pula performa per watt.
Hasilnya, menurut klaim perusahaan, pusat data tidak perlu lagi menyediakan cadangan daya sebesar sebelumnya karena visibilitas dan kendali atas fasilitas menjadi lebih besar.
Mengurangi Beban Saat Jaringan Listrik Menegang
Nvidia juga memperlihatkan bagaimana teknologi manajemen pusat datanya bisa memangkas dampak pelatihan dan inferensi AI berskala besar terhadap jaringan listrik setempat. Bersama Emerald AI dan Silicon Valley Power, perusahaan mendemonstrasikan platform DSX Flex.
Platform itu membebaskan daya pusat data ketika permintaan jaringan memuncak tanpa mengganggu beban kerja kritis. Teknologi respons permintaan sendiri bukan hal baru — perusahaan listrik sudah lama meminta industri berdaya besar mengurangi konsumsi saat beban puncak.
Google termasuk yang telah lama mengeksplorasi kemampuan serupa. Tahun lalu, raksasa pencarian itu mengumumkan akan menghentikan sementara beban kerja AI non-esensial agar tidak membebani jaringan listrik.
DSX Flex membawa kemampuan itu ke siapa pun yang memakai perangkat keras Nvidia. Menurut Harris, teknologi ini memungkinkan pemilik jalur transmisi berlaku tidak terlalu konservatif dalam mengalokasikan atau menyediakan daya berlebih.
Pemangkasan daya tidak otomatis mematikan beban kerja. Beban kritis tetap berjalan, sementara beban non-esensial dapat dijeda atau dipindahkan ke pusat data tetangga yang masih punya kapasitas berlebih.
Tembok Baru di Sekitar Ekosistem Nvidia
Platform DSX bekerja optimal pada pabrik AI yang dibangun dengan perangkat keras tervalidasi Nvidia. Situasi menjadi lebih rumit ketika akselerator pihak ketiga dari d-Matrix, SambaNova, dan lainnya masuk ke dalam campuran.
Bagi mitra yang sudah berada di ekosistem NVLink Fusion seperti d-Matrix, Harris melihat ada jalan untuk memperluas dukungan DSX. Syaratnya, tetap diperlukan integrasi perangkat lunak, dan tidak setiap chip mengekspos tingkat kendali sedetail chip Nvidia sendiri.
Untuk platform pesaing seperti GPU Instinct milik AMD, pembangun pusat data kemungkinan perlu mencari sistem manajemen alternatif guna meniru kemampuan DSX. Alhasil, DSX menjadi tembok ekosistem baru yang memastikan pelanggan Nvidia terus membeli peralatan mereka.
