
大家早安,如果你這段時間同時關注了 GTC、產業討論,甚至是 Jensen Huang 最近的訪談,其實會慢慢拼出一個很關鍵的轉變:AI 的競爭,已經不再只是模型,也不再只是晶片,而是整個「計算系統」正在被重新設計。
從 GPU,到 AI 工廠
過去我們理解 NVIDIA 的方式很簡單。GPU 很強,AI 跑得很快,公司自然就重要。但現在這個邏輯已經不夠用了。以前我們談的是一顆 GPU,後來變成一台 server,再往上變成 cluster。但現在,這個單位被直接拉到一個全新的層級:工廠。當一個 AI 任務需要數萬顆 GPU、跨資料中心協同運作,甚至要重新設計電力與冷卻系統時,你已經不能再把它當成一台電腦來看。你是在建一座工廠。
而這個工廠裡,GPU 不再是產品,它只是機器的一部分。
為什麼系統一定要一起設計
當問題規模擴大之後,一個更根本的限制開始浮現。當計算被迫分散到不同機器、不同節點時,整個系統的效能,就不再取決於最強的那一顆 GPU,而是取決於最慢的那一段流程。
這其實是經典的 Amdahl’s Law(一個系統能加速多少,取決於不能被加速的那一部分),但在 AI 時代被放大到了極致。也因此,優化單一元件已經沒有意義。你不能只把 GPU 做得更快,因為資料還是要經過網路傳輸,記憶體還是會卡住,電力與散熱還是會限制整體密度。
於是,一個新的設計方式出現了 Extreme Co-design。
它的本質就是把所有東西當成一個整體來設計。CPU、GPU、記憶體、網路、軟體,甚至資料中心的電力與冷卻,都必須同時被優化。因為只要有一個地方慢,整個系統就會被拖下來。這也是為什麼 NVIDIA 現在看起來不像一家晶片公司,而更像一個在設計整個計算環境的公司。
計算的本質正在改變

如果說前面的變化還是在「硬體層」,那麼更深的一層,其實是計算本身的轉變。
過去幾十年,電腦本質上是一個儲存與檢索系統。人類把資訊寫進去,電腦負責存起來,然後在需要的時候把它找出來。但現在,這件事情被反轉了,電腦開始「生成」。
這個差別看起來很抽象,但影響非常具體。因為每一次生成,都需要重新計算。你不能像過去一樣,把答案存好再拿出來用。
這也意味著,計算需求不再是一次性的,而是持續性的。
這就是為什麼整個產業開始用「token」來描述 AI。每一個 token,本質上就是一次計算的產出。當使用者增加、使用頻率提高,整個系統就需要產生更多 token。
GPU 像機器,資料中心像工廠,而 token,變成產品。
當這個結構成立之後,AI 就不再只是技術,它開始變成一個可以直接產生收入的生產系統。
為什麼 scaling 還在繼續
過去一段時間,市場其實有一種聲音,認為 scaling law (只要你持續增加模型、資料、算力,模型能力就會穩定變好,而且是可預測的)已經接近極限。但從 NVIDIA 的觀點來看,事情剛好相反。Scaling 並沒有停止,而是從單一維度,變成多個維度同時展開。
除了大家熟悉的 pre-training,現在還包含 post-training、test-time scaling,甚至 agentic scaling。特別是推理這一段,開始變得越來越重要。
因為推理不再只是單次輸出,而是「思考」。當 AI 開始進行多步驟推理、呼叫工具、甚至與其他 agent 協作時,整個計算量會呈現另一種形式的爆發。這也是為什麼很多人會覺得 AI 越來越慢,但同時整個產業卻需要更多算力。因為我們正在從「回答問題」,走向「完成任務」。
從模型,到 agent
這個轉變,最直接的體現,就是 agent 的出現。
過去我們用 AI,是問一個問題,得到一個答案。但現在的 AI,開始會自己查資料、寫程式、呼叫工具,甚至不斷修正自己的結果。這其實更接近一個「工作者」,而不是一個工具。
人類不會把手變成錘子,而是會拿錘子來用。同樣的,AI 也不會內建所有能力,而是會去使用工具。當這件事情成立之後,整個 software ecosystem 就會被重新設計。因為你服務的不再只是人,而是 agent。
如果把視角再往外拉,你會發現限制 AI 發展的,不是模型,而是物理世界。
電力、冷卻、記憶體、封裝、供應鏈,這些東西才是真正的瓶頸。這也是為什麼 AI 的競爭,越來越像一場工業競賽,而不是單純的技術競賽。
當資源變得稀缺,它就會流向效率最高的系統。而 NVIDIA 的優勢,恰好就在這裡。它不只是做硬體,而是同時掌握了軟體、生態系,以及整體系統的設計能力。
AI,其實是一場工業革命
如果把所有線索整理起來,你會得到一個很清楚的結論。AI 並不是一次軟體升級,而是一場工業革命。
它需要巨大的資本投入,需要能源,需要長供應鏈,也需要高度整合的系統設計。這些特徵,和過去的電力革命、石油時代,其實非常相似。
而 NVIDIA 正在做的事情,就是把「計算」變成一種可以大規模生產的工業能力。未來的競爭,不是誰的 AI 比較聰明,而是誰能建出最多、最有效率的 AI 工廠。當你用這個視角去看整個產業,你會發現很多看似零散的事件,其實都在往同一個方向收斂。而這個方向,很可能會決定接下來十年的科技格局。





















