

為了發展AI應用及LLM模型,日月光每一年都要增加113%的算力,可是,運算增長同時也帶來溫室氣體排放的增加,光靠現有機房設計已經難以應付其需求而必須採用新作法。所以日月光決定打造新一代水冷散熱IT機房,來應對這項挑戰。
日月光即將在高雄啟用的AI新機房,將採用Supermicro的水冷式散熱技術,由中華系統整合進行布建,在這座新機房中引進新一代水冷AI伺服器及節能技術。
李政傑表示,新機房設計上導入水冷式散熱設計,不僅利用伺服器本身的水冷機制,讓冷水通過主機板快速帶走熱能,取代過去氣冷式機房的冷熱通道散熱方式,此外,機櫃水冷散熱設計上,提供包含了散熱板、冷卻分配單元(CDU)、冷卻分配分流管(CDM)以及整座冷卻塔,可幫助其降低機房溫度、耗電量以及整體總耗能。
李政傑指出,與傳統氣冷式機房相比,新一代節能機房採用水冷散熱技術後,能耗可降低20%以上,預期PUE值將從1.51下降至1.2以下。這樣不僅節能,也有助於減少碳排放。
在這座AI機房中,未來將部署多臺AI伺服器機櫃系統,根據Supermicro提供的硬體規格,每臺AI伺服器主機內搭載了2個32核Intel CPU與8個Nvidia H100 GPU。李政傑表示,這座新機房啟用後目標是滿足年增113%的AI算力需求,並將AI應用於產品生產、工程研發以及營運上,加速推動智慧製造。
