AMD

生成式AI带动全球AI应用兴起，各产业也希望应用AI提高生产力、竞争力，除了带动数据中心对大量AI算力的需求，在终端方面也带动AI PC趋势，提升PC的AI算力，让AI应用的运行能在不需公有云或数据中心的情形下，可以在PC端运行，保障隐私、降低企业机敏数据外泄风险。AMD即将在下周五（10/11）发表新一代AI运算产品及最新的厂商合作，包括新一代EPYC服务器专用处理器、Instinct系列加速器、Ryzen AI处理器，强化数据中心、边缘运算到PC市场的AI运算布局。

目前AMD在数据中心的主力产品是第4代EPYC处理器，相较于前一代产品，2022年下半年先推出第4代产品是代号Genoa的处理器，锁定通用计算需求，率先采用Zen 4内核，并且延续多核心的策略，将内核数增至96个内核、192个线程，已获得AWS、Google Cloud的采用。

然而，直到2023年，才算是AMD第4代EPYC大军进攻的关键一年，去年7月AMD在美国旧金山一口气发表更完整的第4代EPYC处理器家族，包括锁定技术运算代号为Genoa X处理器，以及针对云原生需要的Bergamo处理器，还有去年下半年推出针对电信及边缘运算设计代号Siena处理器。

AMD第4代EPYC处理器包括Genoa、Genoa X、Bergamo、Siena四个成员到齐，各自对应不同数据中心需求，其中比较特别的是Bergamo，看准企业IT采用云原生技术的趋势，Bergamo采用Zen 4c的CPU内核，将内核数提高至128个内核、256个线程，通过CPU内核数的增加以满足微服务、小应用的弹性运算资源使用需要，单颗处理器拥有更多的核心，提供更高的vCPU密度，更好的能源效率，还可以简少实体服务器数量，降低多台服务器管理的复杂度，有助于企业追求净零转型的目标。

不让AMD专美于前，英特尔也在2024年6月发表Xeon 6处理器，分为采用E-Core效率内核（代号Sierra Forest）及P-Core两个版本（代号Granite Rapids）。英特尔先推出E-Core版本的Xeon 6700E处理器，其核心数提高至144个内核，提高单一机柜可容纳的CPU内核数，以采用第二代Xeon处理器的200个机柜为例，如果采用Xeon 6700E，机柜数大幅减少至66个机柜。英特尔内核数上超越AMD，还计划集成2个Xeon 6 E-Core，推出288个效率内核Xeon 6900系列。

英特尔近期发表采用P-Core的Xeon 6处理器，主要锁定密集型工作、AI及高性能计算需求，最多拥有128个内核，因应AI运算需求，内存带宽加倍，并且将AI加速功能嵌入每个内核，使其具备AI运算加速的能力。

不论是AMD或英特尔，服务器专用处理器的核心数增加，提高单一机柜内的CPU内核数量，对空间有限的数据中心提高运算密度，也能满足企业采用现代化IT，例如云原生技术的资源弹性运用需求，并满足企业追求净零转型，在有限的机柜空间下提高CPU内核数量，提高能源使用效益。

随着企业采用AI应用，AI成为企业提高生产力重要科技，特别是窜起的生成式AI，企业内部署生成式AI，除了提高本地数据中心对AI的算力需求，也可能借助大型公有云业者提供的工具及训练资源，再在本地端部署推论，因此无形中也会提高企业上云及采用云原生技术的意愿。

为了和Nvidia H100竞争，两大X86处理器业者也纷纷推出AI加速器。AMD去年发表第4代EPYC处理器同时，也发表数据中心GPU方案，Instinct MI300系列AI加速器，相较于前代的MI200系列，MI300采用3D封装及小芯片（Chiplet）技术，内置CDNA 3矩阵内核技术，改善指令平行处理来提升运算的输送量，搭配HBM3内存、AMD Infinity高速互连技术，分为MI300A及MI300X，其中MI300A采用APU架构，拥有24个Zen 4的CPU 内核，而MI300X则具有304个CDNA 3运算单元，支持192GB的HBM3内存。

英特尔则是在近期更新AI加速器Gaudi 3，强调为生成式AI需求设计，内置64个张量处理器内核，搭配8个矩阵乘法引擎，内置128GB HBM2e内存，支持24个200Gb的网络端口，提升20%的吞吐量。

AMD将发表数据中心到PC新一代AI产品

英特尔推出E-Core版Xeon 6，CPU内核数超越AMD第4代EPYC处理器后，AMD已在今年Computex预告代号为Turin的第5代EPYC处理器，采用Zen 5 内核，一举将CPU内核数增加至192个内核、384个线程，使用SP5插槽，可兼容于第4代EPYC处理器Genoa，并强调在AI推论应用上的表现优于英特尔处理器。相较于第4代EPYC处理器为台积电5纳米制程，第5代EPYC处理器可望采用4纳米或3纳米制程，但AMD尚未揭露详细的规格、性能表现。

今年10月11日AMD将在美国旧金山举行Advancing AI 2024，预告将发表数据中心到PC的AI方案，包括第5代EPYC处理器、Instinct系列AI加速器、AI PC处理器等AMD新一代AI各式运算产品。

为了扩大进攻AI应用，不只硬件产品，AMD积极地通过合作或并购等方式，提高旗下AI运算方案对开发者社群的支持，包括提供工具、函数库、模型，例如与Hugging Face合作，AI运算产品对其AI模型的优化，去年10月AMD还并购AI软件新创Nod.ai，以提升AMD旗下Instinct系列、EPYC处理器、Versal SoC、Ryzen AI处理器的AI部署速度，Nod.ai可通过自动化编译器软件，降低数据中心到边缘运算、PC的AI模型部署。

今年8月AMD另一个大动作是，投入49亿美元并购AI系统业者ZT Systems，ZT Systems专门设计、集成、制造、部署能AI系统，也是Open AI的系统供应商，这项并购案可望强化AMD在数据中心的AI基础架构，如系统设计、集成能力。