三星

三星本周二（2/27）發表了HBM3E 12H，這是該公司首個12堆疊的HBM3E DRAM，它提供高達1,280 GB/s的頻寬，以及36GB的容量，以滿足AI運算的需求，目前已開始送樣，預計於今年上半年量產。

HBM的全名為高頻寬記憶體（High Bandwidth Memory），採用垂直的3D堆疊技術，以將更多的記憶體晶片封裝到更小的空間中，縮短資料在記憶體與處理器之間的傳輸距離，適用於要求資料傳輸速度的高效能運算應用。

相較於三星先前推出的8堆疊HBM3 8H，HBM3E 12H不管是在頻寬或是容量上都增加了50%以上。

負責記憶體產品規畫的三星執行副總裁Yongcheol Bae表示，AI服務供應商愈來愈需要更高容量的HBM，新的HBM3E 12H即是為了滿足此一需求。

根據三星的解釋，HBM3E 12H採用先進的熱壓非導電薄膜（TC NCF），以讓這個12層的產品與8層一樣高，符合現有的HBM封裝需求，三星不斷降低其NCF材料的厚度，實現業界最小的晶片間隙（7 µm），也消弭各層之間的空隙，使其垂直密度比HBM3 8H增加了20%。

三星預期HBM3E 12H可成為未來需要更多記憶體之系統的最佳解決方案，因其高效能與容量可用來降低資料中心的整體擁有成本（TCO），而在AI應用上，用來訓練的平均速度可比HBM3 8H快上34%，至於推論服務上的同時使用人數則是HBM3 8H的15倍以上。

HBM自2013年成為業界標準以來，記憶體業者已陸續開發出不同世代的產品，包括HBM2、HBM2E、HBM3與HBM3E（HBM3的延伸版），今年的戰場即是HBM3E。不管是SK海力士（SK hynix）或美光（Micron）也都已打造出HBM3E產品，它們在封裝數量、頻寬及效能上較勁，且皆會在今年上半年量產。