Kepritoday.com – NVIDIA lagi bikin gebrakan dengan GPU terbaru berbasis Blackwell, GB300, yang mulai nunjukin taringnya. Hasil benchmark awal dari CoreWeave ngebuktiin kalau chip ini bawa lonjakan efisiensi besar dibandingkan generasi sebelumnya, khususnya buat workload AI yang super berat.
Performa Gahar: 4 GB300 Lawan 16 H100
Dalam pengujian pake model DeepSeek R1, cuma empat GPU GB300 udah bisa nyamain performa 16 H100. Artinya, throughput per kartu sekitar enam kali lipat lebih tinggi! Ini berkat upgrade hardware mentah dan arsitektur yang lebih efisien. GB300 pake 4-way tensor parallelism (TP4), jauh lebih ringkas dibandingkan H100 yang butuh 16-way split (TP16) buat skala serupa. Dengan lebih sedikit pembagian, komunikasi antar-GPU jadi lebih hemat, ditambah teknologi NVLink dan NVSwitch generasi kelima dari NVIDIA yang bikin latensi tetap rendah.
Kapasitas Memori dan Bandwidth Monster
Platform GB300 NVL72 bisa nyediain memori sampai 37TB (maksimal 40TB) dengan bandwidth memori 130TB/s. Ini bikin GB300 sanggup nanganin model AI super besar tanpa bottleneck yang biasa ditemuin di hardware lama. Buat bisnis yang jalanin layanan AI skala besar, ini artinya token generation lebih cepat, biaya inferensi lebih murah, dan skalabilitas yang lebih gampang. CoreWeave bilang efisiensi ini langsung terasa di model reasoning kayak DeepSeek R1, di mana performa per watt dan latensi jadi kunci.
Harga Premium, Tapi Worth It?
Tapi, performa canggih ini nggak murah. Sistem berbasis GB300 NVL72 diperkirakan mulai dari $300,00, jelas ditujuin buat pasar enterprise. Meski begitu, buat perusahaan yang udah all-in di infrastruktur AI, lonjakan performa ini bisa jadi worth it banget, apalagi dengan penghematan biaya operasional jangka panjang.
Kesimpulan: Standar Baru AI High-End
Kalau hasil awal ini terbukti konsisten pas deployment makin meluas, GB300 bisa jadi salah satu lompatan generasi terbesar yang pernah NVIDIA bawain. Dengan efisiensi dan performa yang gila, GPU ini berpotensi jadi standar baru buat komputasi AI kelas atas. Buat yang pengen tetep kompetitif di dunia AI, GB300 kayaknya bakal susah dilupain!
