

Nvidia以新一代Blackwell GPU架構打造的GB200 NVL72為支援多節點與液冷的機架系統,可於超大規模的AI雲端中實現網路加速、組合儲存、零信任安全,以及彈性的GPU運算能力
/Nvidia
Nvidia解釋,在單一NVLink網域上連接了72個GB200,減少了於傳統網路上擴展的通訊負擔,因而可以針對具備1.8兆個參數的專家混合大型語言模型進行即時推論,且訓練這類模型的速度也增快了4倍。
此外,GB200 NVL72利用銅製電纜盒密集封裝與連接GPU以簡化操作,並採用液體冷卻設計,使其成本與電力使用減少了25倍。