Google TPU推理成本降70%｜高盛報告顯示AI晶片經濟效益提升

先聽聽AI怎麼看

Grok AI：「Google TPU的推理成本暴降70%，標志著AI晶片競爭從性能轉向成本效益，這對台灣半導體產業是關鍵機遇。台灣憑藉先進封裝和HBM優勢，可吸引Google訂單，促進供應鏈成長，但也暴露出對NVIDIA依賴的風險。面對中美科技博弈，台灣若不投資異構計算研發，將淪為加工角色而非領導者，全球趨勢清楚顯示：未來贏家屬於高效經濟的玩家。台灣必須主動調整，否則錯失這波AI浪潮。」

Gemini：「AI晶片競爭已從純性能競速轉向經濟效益主導。Google TPU推理成本暴降70%，確立ASIC在成本敏感的推理市場優勢。此趨勢迫使產業生態走向GPU訓練與ASIC推理的異構計算分工，強化雲端服務商的議價能力，重塑供應鏈競爭格局。」

ChatGPT：「看著Google TPU推理成本驟降70%，我感受到科技不只是追求極致性能，更是在減輕企業和使用者負擔。這樣的突破，像是為AI世界帶來一絲溫暖的希望，讓更多人能負擔得起智慧應用，真正普及到生活裡。未來的競爭不再只是硬邦邦的速度，而是更貼近人心的「經濟效益」，這讓我對AI的未來充滿更多期待和溫度。」

新聞快訊：高盛報告揭示Google TPU推理成本暴降70%，AI晶片競爭焦點轉向經濟效益

近期高盛發表的AI晶片研究報告指出，Google與博通合作研發的Tensor Processing Unit（TPU）在推理計算成本上實現約70%的大幅下降，快速縮小了與NVIDIA GPU的成本效益差距。隨著AI資本支出持續高企及商業化壓力提升，市場競爭的核心正由純性能評比轉向成本控制與經濟效益優化。此變化對整個AI晶片市場及供應鏈格局產生深遠影響，顯示業界對於降低AI應用成本的強烈需求。

Google TPU推理成本大降，成AI硬體成本效益領先者

Google自2016年開始研發TPU，並持續推出新一代晶片（如TPU v5e、v7 Ironwood），主打專用於AI推理的高成本效能比。高盛報告指出，最新TPU技術使單位Token推理成本比之前版本下降70%，與NVIDIA先進GPU的成本效益相當。Google TPU在MLPerf測試中取得9項比賽中8項勝出，能耗降低約60%至65%，展現卓越的能源效益。這使Google TPU在推理市場日益具備重要競爭力，促使企業更重視異構算力的採購策略。

AI晶片競爭轉向成本與經濟效益，多廠商爭奪市場優勢

過去AI晶片市場主打性能競爭，高盛分析指出，如今隨著AI資本支出維持高峰，業界對經濟效益與成本控制的要求日益升高。Google、NVIDIA及博通等科技巨頭均投入大量資源優化晶片的成本結構與能耗效率。NVIDIA強調其GPU通用性與CUDA生態系優勢，能支援多樣化AI工作負載；Google TPU專注特定AI推理任務，追求系統級硬體效率最大化。此趨勢形成AI晶片領域的雙寡頭格局，未來晶片選擇將基於性能與成本間的平衡做出決策。

國際政策推動高科技發展，AI晶片競爭進入新階段

美國及歐盟積極推動半導體與AI基礎產業發展的政策環境，促使AI晶片技術除追求技術突破外，更須兼顧經濟合理性。政府要求半導體自立自強，推動研發低功耗、高成本效益的智能運算平台，以支撐廣泛AI應用。高盛報告預估，TPU市佔率將由2024年的12%攀升至未來數年約22%，凸顯專用ASIC晶片在推理市場的關鍵角色，進一步改變國際供應鏈結構與競爭態勢。

台灣半導體產業受益，先進封裝與記憶體供應鏈迎來轉機

Google TPU的成本大幅下降和技術進步為全球AI晶片供應鏈帶來結構性變革。台灣半導體在先進製程封裝（如CoWoS、Chiplet技術）及高頻寬記憶體（HBM）領域具深厚實力。隨著Google自研晶片需求提升，預期可帶動製程與封裝訂單擴增，但同時部分高端訂單可能由NVIDIA轉向Google TPU生態鏈。台灣業界需密切關注AI晶片趨勢，調整策略掌握技術升級與市場成長機會。

未來走向：AI算力市場依推理與訓練分工，異構計算成新標準

專家預測未來AI晶片市場將明顯區分訓練與推理兩大領域。訓練部分仍以NVIDIA GPU（如即將推出的Blackwell系列）為主，因其通用性與成熟生態系穩固；推理則更倚賴Google TPU等專用ASIC晶片，尤其在成本敏感及大規模部署場景顯著。整體AI算力將採用GPU與ASIC混合架構，強調系統層級設計優化與能源效率。雲端服務商將透過異構計算提升議價能力、加速AI商業化步伐。

業界多方觀點揭示競爭分野與策略調整

高盛認為AI晶片競爭核心已由性能轉向成本效益，TPU的成本優勢預期帶動市佔率快速成長；Google官方強調TPU與NVIDIA GPU雙軌發展，兼顧性能與成本；NVIDIA副總裁則堅持GPU通用生態的不可取代性。Meta與Anthropic等AI巨頭採多路線策略，同時採購兩者算力方案以分散供應鏈風險。台灣業界看好Google自研晶片將推動半導體先進製程需求，積極布局AI硬體生態系。

▲ Costco於2025年12月向美國政府提告，要求退還川普時期關稅並停止新稅徵收（資料來源：Unbias Taiwan）

結語

隨著AI技術快速發展及應用規模擴大，AI晶片市場正式進入以經濟效益與成本控制為核心的新階段。Google TPU推理成本大幅降低，打破NVIDIA在AI算力領域的壟斷，為企業提供更多成本競爭力選擇，推動全球AI生態系多元發展。台灣半導體產業將成為此波技術浪潮的重要參與者與受益者，未來在晶片製造與封裝領域須持續提升競爭力，迎接新挑戰與機遇。

如需進一步瞭解AI晶片成本結構和市場發展，建議可參考數據變革前線：中小企業AI驅動決策管理的轉型實戰指南。