Google「自己的芯片自己造」，距离作出第一代人工智能专用芯片 TPU 已经将近十年了！若把时光倒转一下，TPU 当年以 AlphaGo 打败李世乭九段的「秘密武器」，完成原本世人认为 AI 在围棋永远不可能超越人类的创举，从此一砲而红，打开了科技业追逐人工智能圣杯的新浪潮。

TPU 是专为机器学习任务设计的应用专用集成电路（ASIC），正式的中文意义是张量处理器（Tensor Processing Unit），与通用型的 CPU 和 GPU 相比，TPU 在运行矩阵和矢量运算时效率更高。如果你把 TPU 跟现在最夯的 NPU 相比的话，硬要说 NPU 的用途略广泛一些，而且 NPU 使用的架构会将内存和处理单元分开（TPU 则是将两者集成在一个芯片上）。

TPU 的故事可以追朔到 2015 年、甚至更早。不少读者应该还记得，Google 最早的语音辨识功能早在 2011 就发布了，随着 Google Now、Google Assistant 用量变大，Google 开始使用深度神经网络开发语音辨识等服务，也发现需要强大的数据处理能力。

Google 首席科学家 Jeff Dean 是这么说的：「我们做了一些粗略的计算，如果每天有数亿人与 Google 进行三分钟的对话需要多少运算能力。以今天的标准来看这似乎不算什么。但在当时，我们马上就意识到这很可怕！因为这会消耗 Google 当时所有已部署的运算能力。我们需要将 Google 数据中心的电脑数量翻倍，才能支持这些新功能。」

Google 随即研究了一下当时市面上的解决方案，但发现这些方案都无法满足基本的机器学习工作负载需求。因此决定自己来吧！想办法做出更具成本效益、节能的机器学习解决方案。

因此 2015 年第一代 TPU 芯片（TPU v1）在 Google 内部上线了，并迅速在 Google 各个部门得到广泛应用。据 Google 机器学习硬件系统首席工程师 Andy Swing 回忆，他们原本预计只需要制造不到 1 万 个 TPU v1，但最终生产了超过 10 万 个，应用范围涵盖了广告、搜索、语音、AlphaGo，甚至自动驾驶等多个领域。

据 Google 副总裁兼工程院士 Norm Jouppi 透露，TPU 的出现让足足让 Google 省下了 15 个数据中心。TPU v1 的成功也让 Google 意识到：机器学习芯片是有未来的！这也让 Google 将 TPU 视为关键产品之一，不断在 TPU v1 基础上迭代升级，推出了性能更强、效率更高的 TPU 芯片和系统。

例如，TPU v2 将单个芯片的设计理念扩展到了一个更大的超级计算系统，通过高带宽的客制化串联技术将 256 个 TPU 芯片连接在一起，构建了第一个 TPU Pod。随后的 TPU v3 加入了液体冷却技术，TPU v4 则引入了光学电路开关，进一步提升了性能和效率。

到了第五世代 TPU v5，Google 已经拿 TPU 加速投入 LLM 等生成式 AI 的训练了，就连苹果的 AI「Apple Intelligence」也是用 Google 的 TPU 来进行预训练，反而没用上现在业内最夯的 NVIDIA。今年发表的第六代「Trillium」扩展了芯片的矩阵乘法单元（MXU）、提高了时脉速度，内存带宽也比上一代提高了一倍，让 Trillium 每个芯片与第五代 TPU 相比计算性能提升 4.7 倍。

TPU 也成功证明除了 CPU、GPU，众人在追求人工智能所需算力时还有一条新的道路，同时也成为 Google 几乎所有产品中 AI 功能的核心，并支持 Google DeepMind 先进基础模型的发展，更不用说还拿来放在 GCP 上卖给其他人，推动了「AI 即服务」模式的形成。

发展至此，TPU 的发展已经几乎等同于 Google 的命脉了。谁能想像当初大家跟 CPU、GPU 相比还在有点疑惑的 AI ASIC，今天会变成推动科技发展的中流砥柱之一呢？

：Chris

：Google、Apple

本文初稿为 INSIDE 使用 AI 编撰；快加入 INSIDE Google News 按下追踪，给你最新、最 IN 的科技新闻！