

今年台北国际电脑展期间最受瞩目的产品,除了主打AI PC概念的个人电脑,当属Nvidia发展的新型AI整柜服务器系统GB200 NVL72,结合活动现场与厂商总部的展示,总共多达9家厂商秀出这套解决方案,纵观2024上半年所有IT用户大会当中,只有Computex看得到这么多台GB200 NVL72
以英业达为例,他们展示整柜式的GB200 NVL72之余,旁边摆设代号为Artemis的1U服务器与2U服务器,当中均配备2张GB200 Grace Blackwell Superchip、ConnectX-7 400Gb/s InfiniBand网络卡,以及BlueField-3 400Gb/s数据处理器。

其他厂商提供延伸搭配方式,像是云达、华硕、鸿佰展出的产品,是一座服务器机柜搭配一座称为侧车(Side Car)的冷却机柜(编按:所谓的侧车是一种液态冷却机柜搭配服务器机柜的部署形式,应该是借用两轮机车侧边加装附有单轮乘坐设备的比喻)。

以云达为例,他们与光宝科技(LiteOn)展示搭载Nvidia GB200 NVL72的AI服务器机柜,在服务器方面,云达揭露当中搭配的服务器有两款机型,它们均配备云达的直达芯片水冷技术(direct-to-chip liquid cooling)。
其中一款服务器,是2U机型QuantaGrid D75B-2U,在Nvidia GB200 NVL72的系统建置框架之下,可通过两座机柜容纳72台这样的设备。另一款是现场展示的1U机型QuantaGrid D75B-1U,在Nvidia GB200 NVL72的系统建置框架之下,可通过单座机柜容纳72台这样的设备。D75B-1U本身搭载2张GB200 Grace Blackwell Superchip,云达在此标明CPU可存取480 GB容量的LPDDR5X内存,GPU本身配备144GB容量HBM3e高带宽内存,均搭配冷水板(Cold Plate)形式的液态冷却配件;存储设备方面,这台1U服务器可容纳8台E1.S厚度15公厘外形的PCIe固态硬盘,以及1张M.2 2280外形的PCIe固态硬盘;在PCIe设备扩充方面,D75B-1U可容纳2张双宽全高全长尺寸的适配器,以及2张半高半长尺寸的适配器,均支持PCIe 5.0 x16。

至于机柜与电源供应的部分,是由光宝自主设计与制造,并且是遵循Nvidia最新提出的MGX机柜规范的产品,而在Computex现场展示的Nvidia GB200 NVL72机柜顶端,也特别标示QoolRack作为独立解决方案时,可供应120 KW电力。
华硕则展出配备Nvidia GB200 NVL72系统的Asus ESC AI POD,以及矗立在旁的液体至气体热交换器机柜(Liquid-to-Air Heat Exchanger),其中,Asus ESC AI POD搭配的服务器机型为ESC NM2N721-E1,特别的是,他们在这个展示用的机柜套件侧边挂上一整面LED看板,持续播放动画视频介绍Asus ESC AI POD的内部构造、电力供应配置与流经的组件,以及18台运算槽的统合,Grace CPU、Blackwell GPU与NVLink Switch的互连关系。

针对Nvidia GB200 NVL72系统的运算槽,华硕也在Computex现场展示机箱内部设计。我们可看到里面配备2张GB200 Grace Blackwell Superchip,上面均覆盖冷水板,而在机箱中间有个他们设计的电源配送板(Power Distribution Board,PDB),可将48伏特直流电转换为12伏特直流电,供应Blackwell GPU使用;除此之外,这个运算槽还搭配可安装E1.S外形固态硬盘的存储模块,以及两张BlueField-3数据处理器系列的双宽全高半长款式B3240。
