

蘋果在文件中並沒有直接點名 Google 或 NVIDIA,但提到蘋果基礎模型在「雲端 TPU 叢集」上訓練的。
蘋果於周一發表了一份技術文件,內容指出 Apple Intelligence 背後的 AI 模型用了 Google 的 TPU 來進行預訓練,反而沒用上現在業內最夯的 NVIDIA!
蘋果在文件中並沒有直接點名 Google 或 NVIDIA,不過也指出,蘋果基礎模型(AFM)和 AFM 伺服器是在「雲端 TPU 叢集」上訓練的,「這套系統讓我們能更高效、且更具擴展性地訓練 AFM 模型,包括設備上的 AFM、AFM 伺服器及更大的模型」,這也代表蘋果是從雲端供應商租用伺服器來運算。
設備上的 AFM 是由 2048 個共同工作的 TPU v5p 晶片所訓練,TPU v5p 是Google 於去年 12 月首次推出,目前最先進的 TPU。據該論文稱;AFM 伺服器則在 8192 個 TPU v4 晶片上進行訓練,8 千多片晶片透過資料中心網路被配置為八個「slice」。
根據 Google 網站稱,如果提前三年預訂 TPU ,其最新的晶片每小時使用成本不到 2 美元。有趣的是,雖然 Google 有自家 TPU 但仍然是 NVIDIA 最大客戶之一,Google 使用 NVIDIA 的 GPU 和自己的 TPU 來訓練 AI 系統,並在雲端上出售 NVIDIA 技術的使用權。
蘋果先前曾表示,AI 模型推論有部分會使用蘋果自家資料中心晶片上,公司也在 6 月指出,公司工程師使用了自家軟體框架以及自家 GPU、TPU 一系列硬體,以建立 AI 基礎模型。
另外,Apple Intelligence 已透過 iOS 18.1 開發者測試版發布,目前僅適提供給有註冊開發者計劃的使用者體驗。正式向大眾推出 AI 功能的時間,預計延後到 10 月底前的軟體更新,不會連同 iOS 18 在 9 月的初步釋出中一起推出。
:Jocelyn
:Chris
本文初稿為 INSIDE 使用 AI 編撰;快加入 INSIDE Google News 按下追蹤,給你最新、最 IN 的科技新聞!