

英特爾資料中心平臺工程與架構事業群總經理Zane Ball表示,生成式AI的興起,對於資料中心帶來了重要變革之一,一方面將加速企業資料中心採用液體冷卻技術。另一方面,未來伺服器硬體設計持續發展能夠支援更大參數的模型、更高記憶體頻寬的伺服器系統。
從英特爾對於資料中心AI系統的分類,也能夠反映出不同型態伺服器,能夠支援處理的推論模型參數的規模。
若以單一CPU插槽的Emerald Rapids伺服器來舉例,Zane Ball也表示,這種伺服器適合處理100億參數的模型推論任務,他強調,雖然執行更多參數的模型是有可能,但考慮到系統的效能, 100億個參數會是較為合理的數量。