

为了发展AI应用及LLM模型,日月光每一年都要增加113%的算力,可是,运算增长同时也带来温室气体排放的增加,光靠现有机房设计已经难以应付其需求而必须采用新作法。所以日月光决定打造新一代水冷散热IT机房,来应对这项挑战。
日月光即将在高雄激活的AI新机房,将采用Supermicro的水冷式散热技术,由中华系统集成进行布建,在这座新机房中引进新一代水冷AI服务器及节能技术。
李政杰表示,新机房导入水冷式散热设计,不仅利用服务器本身的水冷机制,让冷水通过主板快速带走热能,取代过去气冷式机房的冷热信道散热方式,此外,机柜设计上创建水冷散热机制,集成了散热板、冷却分配单元(CDU)、冷却分配分流管(CDM)以及搭配冷却塔,可帮助其降低机房温度、耗电量以及整体总耗能。
李政杰指出,与传统气冷式机房相比,新一代节能机房采用水冷散热技术后,能耗可降低20%以上,预期PUE值将从1.51下降至1.2以下。这样不仅节能,也有助于减少碳排放。
在这座AI机房中,未来将部署多台AI服务器机柜系统,根据Supermicro提供的硬件规格,每台AI服务器主机内搭载了2个32核Intel CPU与8个Nvidia H100 GPU。李政杰表示,这座新机房激活后目标是满足年增113%的AI算力需求,并将开发应用在产品生产、工程研发以及营运上的AI应用,加速推动智能制造。
