在 Google 拉斯維加斯舉辦的 Google Cloud NEXT ’26 大會上，正式發表自家第八代 TPU AI 加速晶片。不同於以往「一代一晶片」的慣例，Google 此次採取「雙軌制」，一口氣推出專為極致訓練設計的 TPU 8t（代號 Sunfish）以及專攻海量推理的 TPU 8i（代號 Zebrafish）。面對業內由生成式 AI 轉向「AI 代理（AI Agents）」與「代理式工作流」的新階段，這兩款晶片將成為 Google Cloud「AI 超級電腦（AI Hypercomputer）」的新核心。
Google Cloud Next 26 發表第八代 TPU：推理與訓練雙軌並行
Google Cloud 執行長 Thomas Kurian 在大會上指出，我們正進入一個「代理式企業」的新時代。在這個時代，AI 不再職是單純的聊天機器人，而是能進行複雜推理、執行多步驟工作流，並在連續迴圈中自我學習的智慧個體。
Google 執行長 Sundar Pichai 也同步分享了驚人的數據：Google 內部已落實「代理式工作流程」，目前 Google 所有的全新程式碼中，高達 75% 是由 AI 生成並經由工程師審核通過的，這一比例較去年秋季的 50% 大幅成長 。
由於 AI 代理人需要處理極長的上文視窗（Long Context Windows）與複雜的邏輯推理，這對底層硬體提出了截然不同的需求：訓練端需要極致的算力吞吐量與橫向擴充能力，而推理端則更看重記憶體頻寬與反應速度。TPU 8 的雙軌設計正是為了在成本、效能與能耗之間取得最佳平衡。
TPU 8t：縮短訓練週期，打造邊界模型的效能引擎
TPU 8t（訓練型，Training）的設計核心是減少尖端模型的開發時間，將原本需耗時數個月的任務縮短至數週之內。
1. 驚人的算力密度與 3D Torus 拓撲
TPU 8t 沿用了 Google 證明成功的 3D Torus 網路拓撲，但在規模上實現了巨大跨越。單一「超級機架（Superpod）」現在可容納 9,600 顆晶片，並提供高達 2PB（2,000TB）的共享高頻寬記憶體（HBM）。在最新的 FP4 精度下，單一機架的運算效能達到了 121 ExaFlops 。
2. Native FP4 與 SparseCore 優化
為了突破記憶體頻寬的瓶頸，TPU 8t 引入了原生 4 位元浮點運算（Native FP4），這讓晶片的矩陣運算單元（MXU）吞吐量翻倍。此外，TPU 8t 還搭載了專用的「SparseCore」加速器，專門處理 Embedding 查找中常見的非規律記憶體存取。這種設計能有效防止在處理大規模推薦系統或語言模型時常見的「零運算瓶頸（Zero-op bottlenecks）」 [3]。
3. Virgo Network：邁向百萬顆晶片的近線性擴充
Google 同步發表了全新的資料中心網路技術「Virgo Network」。這是一種具備極高端口密度的網路架構，配合 JAX 與 Pathways 軟體框架，TPU 8t 能夠在單一邏輯集群中支撐高達 100 萬顆晶片。Google 宣稱，即便在如此龐大的規模下，Virgo 依然能提供接近線性的效能擴展能力，解決了以往分散式訓練中常見的通信延遲問題。
TPU 8i：低延遲推論，AI 代理人的即時大腦
TPU 8i（推理型，Inference）則是專為應對大規模、高敏感度的推理負載而生，特別是針對現今主流的混合專家模型（MoE）進行深度優化。
1. SRAM 容量翻三倍，數據「不出晶片」
在推論過程中，頻繁的數據搬運是延遲的主因。TPU 8i 搭載了 288GB 的 HBM 以及高達 384MB 的內部 SRAM。SRAM 容量是前一代推論晶片（Ironwood）的三倍之多，這使得模型在運作時的工作集能完整保存在晶片上，大幅減少了對外部記憶體的依賴，從而實現即時回應 。
2. 強化的晶片互連頻寬
針對 MoE 架構，TPU 8i 將晶片間的互連頻寬提升至 19.2 TB/s，確保多顆晶片協同工作時，AI 代理人能夠以極低延遲執行多輪對話與推理任務。在單一 Pod 規模上，TPU 8i 可容納 1,152 顆晶片，每 Pod 的 FP8 運算效能為 11.6 ExaFlops 。
技術亮點：Axion CPU 整合與第四代液冷
為了徹底消除系統級瓶頸，TPU 8 系列在主機端也進行了革新：
- 棄 x86 改採 Axion：Google 這次棄用了傳統的 x86 主機處理器，改為配對自家研發的 Arm 架構 Axion CPU。這不僅提升了數據預處理的效能（減少 10 倍存取延遲），也進一步優化了算力的整體能效比 。
- 節能效能翻倍：透過第四代液冷技術與系統級協同設計，TPU 8 在維持強大算力的同時，每瓦效能較前代提升了 2 倍。這對於在追求算力競賽的同時維持淨零碳排目標至關重要。
台廠供應鏈受惠：聯發科 ASIC 訂單傳捷報
隨著 Google 擴大 TPU 的部署，台灣供應鏈也迎來重大利多。市場預期，聯發科（2454） 已成功取得推理端晶片（TPU 8i 系列）的 ASIC 代工訂單，並負責相關的物理設計與矽智財整合。
受此消息激勵，聯發科股價在 22 日展現強勁動能，終場以漲停價 新台幣 2,295 元 收盤，創下歷史新天價 。除了聯發科外，包含欣興、金像電、一詮與群創等散熱、載板與光通訊供應商，也都因打入 Google AI 鏈而受到市場高度關注。
與 NVIDIA 的正面對決：算力 vs. 規模
儘管單論晶片性能，NVIDIA 即將推出的 Rubin GPU 在 FP4 訓練效能上（約 35 PetaFLOPS）仍優於單顆 TPU 8t，但 Google 強調的是「系統級」的優勢。
NVIDIA 的 NVLink 網域在單一超級計算節點中限制為 576 顆 GPU，之後必須透過乙太網路擴展；而 Google 的 TPU 8t 透過光學交換技術，能在單一統一網域中直接連接 9,600 顆晶片，甚至擴展至百萬等級。對於開發如 Gemini 般龐大的邊界模型而言，這種「大池子記憶體」的架構在通訊延遲上具備天然優勢。
2026 下半年正式問世
Google 宣佈，TPU 8t 與 TPU 8i 預計將於 2026 年後半 正式在 Google Cloud 上線供企業租用。屆時，企業客戶將能根據自身需求選擇最適合的「AI 工具」，無論是需要焚膏繼晷訓練新模型的研發單位，還是需要即時反應、管理萬千 AI 代理人的營運團隊，都將擁有最強大的算力後盾。
隨著算力成本持續優化，我們正見證著 AI 從「諮詢工具」進化為「執行代理人」的轉捩點，而 Google 的第八代 TPU，正是推動這場革命的核心引擎。