NVIDIA Buka Standar Infrastruktur AI Generasi Berikutnya

Standar terbuka untuk infrastruktur kecerdasan buatan (AI) menjadi fokus pengembangan pusat data berskala besar yang beralih dari kapasitas megawatt ke gigawatt. Dilansir dari Medcom, NVIDIA mengumumkan kontribusi desain dan kolaborasi teknologi lintas industri dalam ajang Open Compute Project (OCP) Global Summit di San Jose.

Inisiatif tersebut melibatkan Google, Meta, Microsoft, Cisco, AMD, dan Visionbay. Tujuannya adalah menyediakan landasan teknologi bersama untuk membangun pabrik AI generasi berikutnya, mulai dari sistem komputasi, distribusi daya, jaringan, hingga pengelolaan operasional pusat data.

NVIDIA menyerahkan spesifikasi desain rak dan compute tray Vera Rubin kepada OCP melalui arsitektur modular NVIDIA MGX. Kontribusi ini ditujukan untuk memperluas penerapan standar terbuka dalam pembangunan infrastruktur AI.

Pembaruan NVIDIA MGX 1.2 mencakup dukungan pendinginan cair blind-mate pada tingkat rak, interkoneksi yang dapat beroperasi lintas sistem, serta busbar cair 5.000A. Rancangan tersebut ditujukan untuk mendukung sistem AI berkinerja tinggi dengan kebutuhan daya hingga 250kW.

Selain itu, NVIDIA memperkenalkan spesifikasi rak Vera CPU yang dirancang untuk mendukung agentic AI. Arsitektur ini menyediakan fondasi bagi agen AI dalam menjalankan pemanggilan alat, mengatur orkestrasi tugas, serta melakukan eksekusi terisolasi secara waktu nyata.

Perangkat lunak untuk mengelola pabrik AI

Pengoperasian pabrik AI juga memerlukan koordinasi perangkat keras dan perangkat lunak. Untuk kebutuhan tersebut, NVIDIA merilis sejumlah komponen sumber terbuka melalui platform NVIDIA DSX AI Factory guna membantu otomatisasi konfigurasi dan pemeriksaan kesiapan sistem.

Config Manager dirancang untuk mengatur konfigurasi switch jaringan secara konsisten dengan kebutuhan intervensi manual yang minimal. Sementara itu, Cluster Readiness Engine menguji beban kluster GPU melalui simulasi alur kerja nyata untuk memeriksa kondisi perangkat keras dan mengurangi pengulangan pekerjaan akibat masalah teknis.

Komponen lainnya adalah NVIDIA Rack Management Service, yang menyediakan abstraksi perangkat keras rak untuk pengelolaan firmware dalam skala besar. NVIDIA juga menghadirkan Cluster API Provider untuk mempercepat penyediaan sistem bare-metal dan proses penerimaan pengguna, dari yang sebelumnya membutuhkan waktu berhari-hari menjadi hitungan jam.

Kolaborasi untuk desain fisik dan ketahanan pusat data

Keseragaman rancangan fasilitas fisik menjadi bagian penting dalam perluasan infrastruktur AI. NVIDIA bersama AMD, Google, dan Meta menerbitkan Open Data Center Specification v0.7, standar terbuka yang mencakup rancangan arsitektur daya, sistem pendinginan, dan tata letak fasilitas pusat data.

Di sisi ketahanan pasokan listrik, Google, Meta, Microsoft, dan NVIDIA memublikasikan OCP Grid Resilience Specification. Spesifikasi tersebut dirancang agar infrastruktur AI berskala besar dapat menghadapi gangguan jaringan listrik umum, memberikan respons otomatis, dan memulihkan beban kerja hingga mendekati kapasitas penuh dalam waktu kurang dari dua detik.

Distribusi daya dan jaringan berkapasitas tinggi

Untuk mengatasi peningkatan kepadatan daya pada rak komputasi, Visionbay memperkenalkan platform pabrik AI K-1 berbasis arsitektur 800V DC. Platform yang disiapkan untuk era Vera Rubin ini memadukan teknologi daya dan termal dari Vertiv guna mengurangi kompleksitas transmisi listrik melalui kabel tembaga konvensional.

Dalam pengembangan jaringan, Meta menggunakan switch Ethernet NVIDIA Spectrum-6 102.4 Tb/s melalui switch N-IceCube yang menjalankan sistem operasi jaringan terbuka FBOSS. Teknologi Spectrum-X Multiplane memungkinkan lalu lintas data GPU disalurkan melalui delapan bidang independen untuk mendukung kluster AI dengan lebih dari 100.000 GPU.

NVIDIA dan Cisco juga mengumumkan standar Ultra-Dense Small Form Factor Pluggable (USFP) untuk jaringan 400Gb/s per lane. Dibandingkan standar OSFP konvensional, modul tersebut menawarkan kepadatan bandwidth empat kali lipat dan efisiensi daya 1,3 kali lebih tinggi.

Di sisi lain, NVIDIA mengintegrasikan protokol Falcon milik Google pada SuperNIC NVIDIA ConnectX-10 dan BlueField DPU. Integrasi ini ditujukan untuk meningkatkan keandalan pengiriman data melalui jaringan Ethernet sekaligus menghindari kehilangan paket.

Rangkaian pengembangan tersebut mencakup standar desain rak, perangkat lunak pengelolaan, ketahanan listrik, dan teknologi jaringan. Melalui kontribusi kepada OCP serta kerja sama dengan sejumlah perusahaan teknologi, NVIDIA mendorong penyelarasan komponen infrastruktur yang diperlukan untuk mengoperasikan pusat data AI berskala besar.