Intel

英特爾在今年Computex電腦展發表Xeon 6處理器，由搭載效率核心(E-core)版本的Xeon 6處理器先打頭陣，本周英特爾再補齊Xeon 6處理器產品線，推出搭載效能核心(P-core)版本，提高核心數及記憶體頻寬，最高至128個核心。

Xeon 6為伺服器專用處理器，是英特爾首款採用Intel 3節點設計的產品，其中分為搭載E-core效率核心版本（代號Sierra Forest），以及搭載P-core效能核心版本（代號Granite Rapids）。今年6月，英特爾先推出E-core版Xeon 6處理器，鎖定超多核心需求，最高擁有144個E-Core核心，主要鎖定高密度、高能源效率資料中心使用需求，適用於雲原生、CDN、微服務架構等應用。

至於新推出的P-core版本Xeon 6處理器，鎖定密集型工作負載需求，AI及高效能運算市場，不僅增加核心數，並且將AI加速功能嵌入到每個核心，記憶體頻寬也加倍。英特爾稱該處理器適用於邊緣、資料中心到雲端的AI運算需求，強調能在不需獨立加速器之下，執行數十億參數的AI模型。

根據官網的訊息，Xeon 6900P系列搭載的P-core為超執行緒核心，針對AI、HPC、資料等工作負載需求，採用矩陣引擎，最高擁有128個核心，最多504MB的快取記憶體；而E-core版本的Xeon 6700E系列，使用單執行緒提高核心密度，並且省略矩陣引擎，單處理器最高擁有144個核心，英特爾計畫今年底再推出更高核心數，將單插槽核心數推升至288個核心。

除了P-core版Xeon 6的推出，英特爾也更新旗下的AI加速器Gaudi 3，強調為大規模生成式AI需求設計的Gaudi 3，擁有64個張量處理器核心、8個矩陣乘法引擎，內建128GB HBM2e記憶體，支援24個200Gb的網路埠，使新的Gaudi 3 提升20%的吞吐量，英特爾強調和Nvidia的H100相比，在Llama 2 70B推論時，同樣成本下提供2倍的效能。

英特爾指出，Gaudi 3支援PyTorch框架、Hugging Face Transformer、Diffuser模型。目前英特爾已和合作夥伴聯手，針對生成式AI最佳化的方案，例如戴爾合作規畫設計RAG方案。