大家都以為 Nvidia AI 晶片穩坐王位，但Google 這顆悶了十年的 TPU，正在偷走推理市場

大家都以為 Nvidia AI 晶片穩坐王位，但Google 這顆悶了十年的 TPU，正在偷走推理市場 大家好，我是股市基友。最近華爾街有個聲音越來越大：Nvidia 的 AI 晶片霸主地位會被撼動嗎？ 很多人第一反應是「不可能」，畢竟輝達的市值已經寫進每一本投資教科書。 但如果你仔細看 Google 本週在 Google Cloud Next 大會要發布的新一代 TPU，還有它手上那些合約，你就會發現，戰場正在悄悄轉向，而這次 Google 準備了十年。 AI 晶片戰場正在轉移，訓練不等於一切 過去兩年大家討論 AI 晶片，話題幾乎都繞著「訓練」打轉。 訓練模型吃算力、吃記憶體頻寬，Nvidia 的 GPU 確實是無敵的選擇。但 AI 模型一旦上線，真正每天消耗算力的是「推理」，也就是你問 ChatGPT 一個問題、它回答你那一秒要做的事情。 Gartner 分析師 Chirag Dekate 直接點明：戰場正向推理方向轉移，而在這個戰場上，Google 擁有基礎設施優勢。 這不是空話。Anthropic 去年 10 月宣布擴大與 Google 的合作，一口氣要拿下多達 100 萬枚 TPU；Meta 則簽了一張數十億美元、為期多年的 TPU 雲服務大單。 Meta 基礎設施負責人 Santosh Janardhan 說得保守：「看起來在推理方面可能存在優勢」。但簽幾十億美元的單子，會只為了「可能」兩個字嗎？ 十年磨一劍，Google 把「技術孤島」變成現金流 股市基友認為，TPU 最值錢的地方，不是晶片本身，而是 Google 把自家 AI 模型團隊和晶片團隊綁在一起養了十年。 這故事要從 2017 年那篇催生大語言模型的 Transformer 論文講起。從那時候開始，TPU 團隊就跟著 AI 模型的需求一路演進。 Google 科學家 Paul Barham 透露，他們現在能在 10 秒內完成對數十萬枚加速晶片的硬體錯誤排查。這種效率，是外購 GPU 的公司很難複製的。 亞馬遜創辦人貝佐斯說過一句狠話：「你的利潤就是我的機會。」Nvidia 資料中心 GPU 毛利率傳出高達 70% 到 80%，這種肥肉，誰不想自己切一塊？ Google 只是下手比較早，而且已經養到可以賣給外人的程度。Citadel Securities 甚至打算在這次大會分享他們用 TPU 跑出比 GPU 方案更快訓練速度的經驗，這等於是 Google 花錢請來的最佳業配。 但別急著把 Nvidia 寫進歷史 不過，股市基友必須提醒一件事：推理戰場打起來，不代表訓練戰場就會輸。 黃仁勳上個月推出了一款基於收購自 Groq 的技術所開發的推理晶片，直接回應 Google 的挑戰。 他強調 Nvidia 晶片的多用途優勢，能完成「大量 TPU 無法勝任的應用」。 更重要的是，Google DeepMind CEO Demis Hassabis 自己也坦承，頂尖 AI 實驗室「很多人希望同時在兩種平台上運行」。 連 Google 自家都是 TPU 與 GPU 並用。這就像你家裡有一台 Toyota，不代表你不會再買一台 Tesla，市場的餅本身還在變大。 TPU 還有一個死穴：晶片從研發到量產要三年，但 AI 模型的迭代速度是以月為單位。 三年前設計的晶片，能不能跟上三年後的模型架構，這是 Google 自己都在頭痛的事。 用 Google 高層 Vahdat 的話說，只為自家生產 TPU 最終可能困在一座「技術孤島」，美麗但多樣性有限。 結論：投資人該怎麼看這場仗 AI 晶片的故事，正在從「Nvidia 一家獨大」變成「訓練歸 Nvidia、推理看 Google」的雙霸格局。 對投資人來說，這不是「該不該賣 Nvidia」的問題，而是「有沒有把 Google 的雲端與晶片業務，重新放進估值模型」的問題。 股市基友這樣看：當一間公司願意悶著頭做一件事十年，還做到 Meta、Anthropic、Citadel 都搶著排隊下單，那就不是概念股，是真刀實槍的成長引擎。 至於 Nvidia，護城河還在，但以後要習慣旁邊多一條運河。