Google「自己的晶片自己造」，距離作出第一代人工智慧專用晶片 TPU 已經將近十年了！若把時光倒轉一下，TPU 當年以 AlphaGo 打敗李世乭九段的「秘密武器」，完成原本世人認為 AI 在圍棋永遠不可能超越人類的創舉，從此一砲而紅，開啟了科技業追逐人工智慧聖杯的新浪潮。

TPU 是專為機器學習任務設計的應用專用積體電路（ASIC），正式的中文意義是張量處理器（Tensor Processing Unit），與通用型的 CPU 和 GPU 相比，TPU 在執行矩陣和向量運算時效率更高。如果你把 TPU 跟現在最夯的 NPU 相比的話，硬要說 NPU 的用途略廣泛一些，而且 NPU 使用的架構會將記憶體和處理單元分開（TPU 則是將兩者整合在一個晶片上）。

TPU 的故事可以追朔到 2015 年、甚至更早。不少讀者應該還記得，Google 最早的語音辨識功能早在 2011 就發布了，隨著 Google Now、Google Assistant 用量變大，Google 開始使用深度神經網路開發語音辨識等服務，也發現需要強大的數據處理能力。

Google 首席科學家 Jeff Dean 是這麼說的：「我們做了一些粗略的計算，如果每天有數億人與 Google 進行三分鐘的對話需要多少運算能力。以今天的標準來看這似乎不算什麼。但在當時，我們馬上就意識到這很可怕！因為這會消耗 Google 當時所有已部署的運算能力。我們需要將 Google 數據中心的電腦數量翻倍，才能支援這些新功能。」

Google 隨即研究了一下當時市面上的解決方案，但發現這些方案都無法滿足基本的機器學習工作負載需求。因此決定自己來吧！想辦法做出更具成本效益、節能的機器學習解決方案。

因此 2015 年第一代 TPU 晶片（TPU v1）在 Google 內部上線了，並迅速在 Google 各個部門得到廣泛應用。據 Google 機器學習硬體系統首席工程師 Andy Swing 回憶，他們原本預計只需要製造不到 1 萬 個 TPU v1，但最終生產了超過 10 萬 個，應用範圍涵蓋了廣告、搜尋、語音、AlphaGo，甚至自動駕駛等多個領域。

據 Google 副總裁兼工程院士 Norm Jouppi 透露，TPU 的出現讓足足讓 Google 省下了 15 個數據中心。TPU v1 的成功也讓 Google 意識到：機器學習晶片是有未來的！這也讓 Google 將 TPU 視為關鍵產品之一，不斷在 TPU v1 基礎上迭代升級，推出了效能更強、效率更高的 TPU 晶片和系統。

例如，TPU v2 將單個晶片的設計理念擴展到了一個更大的超級計算系統，通過高頻寬的客製化串聯技術將 256 個 TPU 晶片連接在一起，構建了第一個 TPU Pod。隨後的 TPU v3 加入了液體冷卻技術，TPU v4 則引入了光學電路開關，進一步提升了效能和效率。

到了第五世代 TPU v5，Google 已經拿 TPU 加速投入 LLM 等生成式 AI 的訓練了，就連蘋果的 AI「Apple Intelligence」也是用 Google 的 TPU 來進行預訓練，反而沒用上現在業內最夯的 NVIDIA。今年發表的第六代「Trillium」擴展了晶片的矩陣乘法單元（MXU）、提高了時脈速度，記憶體頻寬也比上一代提高了一倍，讓 Trillium 每個晶片與第五代 TPU 相比計算效能提升 4.7 倍。

TPU 也成功證明除了 CPU、GPU，眾人在追求人工智慧所需算力時還有一條新的道路，同時也成為 Google 幾乎所有產品中 AI 功能的核心，並支援 Google DeepMind 先進基礎模型的發展，更不用說還拿來放在 GCP 上賣給其他人，推動了「AI 即服務」模式的形成。

發展至此，TPU 的發展已經幾乎等同於 Google 的命脈了。誰能想像當初大家跟 CPU、GPU 相比還在有點疑惑的 AI ASIC，今天會變成推動科技發展的中流砥柱之一呢？

：Chris

：Google、Apple

本文初稿為 INSIDE 使用 AI 編撰；快加入 INSIDE Google News 按下追蹤，給你最新、最 IN 的科技新聞！