NVIDIA 正從 GPU 走向 AI 工廠與完整計算系統

更新 發佈閱讀 6 分鐘
vocus|新世代的創作平台

大家早安,如果你這段時間同時關注了 GTC、產業討論,甚至是 Jensen Huang 最近的訪談,其實會慢慢拼出一個很關鍵的轉變:AI 的競爭,已經不再只是模型,也不再只是晶片,而是整個「計算系統」正在被重新設計。

從 GPU,到 AI 工廠

過去我們理解 NVIDIA 的方式很簡單。GPU 很強,AI 跑得很快,公司自然就重要。但現在這個邏輯已經不夠用了。以前我們談的是一顆 GPU,後來變成一台 server,再往上變成 cluster。但現在,這個單位被直接拉到一個全新的層級:工廠。

當一個 AI 任務需要數萬顆 GPU、跨資料中心協同運作,甚至要重新設計電力與冷卻系統時,你已經不能再把它當成一台電腦來看。你是在建一座工廠。

而這個工廠裡,GPU 不再是產品,它只是機器的一部分。

為什麼系統一定要一起設計

當問題規模擴大之後,一個更根本的限制開始浮現。當計算被迫分散到不同機器、不同節點時,整個系統的效能,就不再取決於最強的那一顆 GPU,而是取決於最慢的那一段流程。

這其實是經典的 Amdahl’s Law(一個系統能加速多少,取決於不能被加速的那一部分),但在 AI 時代被放大到了極致。也因此,優化單一元件已經沒有意義。你不能只把 GPU 做得更快,因為資料還是要經過網路傳輸,記憶體還是會卡住,電力與散熱還是會限制整體密度。

於是,一個新的設計方式出現了 Extreme Co-design。

它的本質就是把所有東西當成一個整體來設計。CPU、GPU、記憶體、網路、軟體,甚至資料中心的電力與冷卻,都必須同時被優化。因為只要有一個地方慢,整個系統就會被拖下來。這也是為什麼 NVIDIA 現在看起來不像一家晶片公司,而更像一個在設計整個計算環境的公司。

計算的本質正在改變

vocus|新世代的創作平台

如果說前面的變化還是在「硬體層」,那麼更深的一層,其實是計算本身的轉變。

過去幾十年,電腦本質上是一個儲存與檢索系統。人類把資訊寫進去,電腦負責存起來,然後在需要的時候把它找出來。但現在,這件事情被反轉了,電腦開始「生成」。

這個差別看起來很抽象,但影響非常具體。因為每一次生成,都需要重新計算。你不能像過去一樣,把答案存好再拿出來用。

這也意味著,計算需求不再是一次性的,而是持續性的。

這就是為什麼整個產業開始用「token」來描述 AI。每一個 token,本質上就是一次計算的產出。當使用者增加、使用頻率提高,整個系統就需要產生更多 token。

GPU 像機器,資料中心像工廠,而 token,變成產品。

當這個結構成立之後,AI 就不再只是技術,它開始變成一個可以直接產生收入的生產系統。

為什麼 scaling 還在繼續

過去一段時間,市場其實有一種聲音,認為 scaling law (只要你持續增加模型、資料、算力,模型能力就會穩定變好,而且是可預測的)已經接近極限。但從 NVIDIA 的觀點來看,事情剛好相反。Scaling 並沒有停止,而是從單一維度,變成多個維度同時展開。

除了大家熟悉的 pre-training,現在還包含 post-training、test-time scaling,甚至 agentic scaling。特別是推理這一段,開始變得越來越重要。

因為推理不再只是單次輸出,而是「思考」。當 AI 開始進行多步驟推理、呼叫工具、甚至與其他 agent 協作時,整個計算量會呈現另一種形式的爆發。這也是為什麼很多人會覺得 AI 越來越慢,但同時整個產業卻需要更多算力。因為我們正在從「回答問題」,走向「完成任務」。

從模型,到 agent

這個轉變,最直接的體現,就是 agent 的出現。

過去我們用 AI,是問一個問題,得到一個答案。但現在的 AI,開始會自己查資料、寫程式、呼叫工具,甚至不斷修正自己的結果。這其實更接近一個「工作者」,而不是一個工具。

人類不會把手變成錘子,而是會拿錘子來用。同樣的,AI 也不會內建所有能力,而是會去使用工具。當這件事情成立之後,整個 software ecosystem 就會被重新設計。因為你服務的不再只是人,而是 agent。

如果把視角再往外拉,你會發現限制 AI 發展的,不是模型,而是物理世界。

電力、冷卻、記憶體、封裝、供應鏈,這些東西才是真正的瓶頸。這也是為什麼 AI 的競爭,越來越像一場工業競賽,而不是單純的技術競賽。

當資源變得稀缺,它就會流向效率最高的系統。而 NVIDIA 的優勢,恰好就在這裡。它不只是做硬體,而是同時掌握了軟體、生態系,以及整體系統的設計能力。

AI,其實是一場工業革命

如果把所有線索整理起來,你會得到一個很清楚的結論。AI 並不是一次軟體升級,而是一場工業革命。

它需要巨大的資本投入,需要能源,需要長供應鏈,也需要高度整合的系統設計。這些特徵,和過去的電力革命、石油時代,其實非常相似。

而 NVIDIA 正在做的事情,就是把「計算」變成一種可以大規模生產的工業能力。未來的競爭,不是誰的 AI 比較聰明,而是誰能建出最多、最有效率的 AI 工廠。當你用這個視角去看整個產業,你會發現很多看似零散的事件,其實都在往同一個方向收斂。而這個方向,很可能會決定接下來十年的科技格局。



留言
avatar-img
想想
19會員
226內容數
Hi!歡迎來到想想。我們一起觀察趨勢,理解來龍去脈,聊聊科技如何改變生活。 在快速變動的世界裡,找回思考的節奏。
想想的其他內容
2026/03/13
Oracle 最新財報顯示 AI 基礎設施需求強勁,OCI 雲端營收年增 84%,未履行訂單達 5530 億美元。不過市場仍擔心資料中心投資過大,全年資本支出可能達 500 億美元。Oracle 透過客戶預付 GPU 模式降低壓力,同時 AI 也加速企業資料上雲。
Thumbnail
2026/03/13
Oracle 最新財報顯示 AI 基礎設施需求強勁,OCI 雲端營收年增 84%,未履行訂單達 5530 億美元。不過市場仍擔心資料中心投資過大,全年資本支出可能達 500 億美元。Oracle 透過客戶預付 GPU 模式降低壓力,同時 AI 也加速企業資料上雲。
Thumbnail
2026/03/04
COUPE 透過 SoIC-X 將 EIC 與 PIC 3D 鍵合,推動光電整合從可插拔模組走向 CoWoS CPO,最終進入 interposer 與 XPU 內部,重塑 AI 封裝架構與功耗邏輯。
Thumbnail
2026/03/04
COUPE 透過 SoIC-X 將 EIC 與 PIC 3D 鍵合,推動光電整合從可插拔模組走向 CoWoS CPO,最終進入 interposer 與 XPU 內部,重塑 AI 封裝架構與功耗邏輯。
Thumbnail
2026/02/25
CMP 是先進製程中最關鍵卻低調的平坦化技術。隨著 3D NAND、HBM 與先進封裝層數提升,CMP 設備與研磨液需求同步增加。荏原與 Versum 分別在設備與材料端建立長期護城河,成為 AI 堆疊時代的隱性受益者。
Thumbnail
2026/02/25
CMP 是先進製程中最關鍵卻低調的平坦化技術。隨著 3D NAND、HBM 與先進封裝層數提升,CMP 設備與研磨液需求同步增加。荏原與 Versum 分別在設備與材料端建立長期護城河,成為 AI 堆疊時代的隱性受益者。
Thumbnail
看更多
你可能也想看
Thumbnail
對投資人來說,一家公司是否值得長期關注,往往取決於兩點:它在供應鏈中的位置是否關鍵,以及這個位置是否不容易被取代。達航與尖點正好分別卡在這兩個核心環節,而且缺一不可。達航(4577)的應用:AI×先進封裝的「微孔神器」。AI、大模型、HPC的崛起,讓載板與封裝產業快速往高密度前進。
Thumbnail
對投資人來說,一家公司是否值得長期關注,往往取決於兩點:它在供應鏈中的位置是否關鍵,以及這個位置是否不容易被取代。達航與尖點正好分別卡在這兩個核心環節,而且缺一不可。達航(4577)的應用:AI×先進封裝的「微孔神器」。AI、大模型、HPC的崛起,讓載板與封裝產業快速往高密度前進。
Thumbnail
11/19法說會中,黃仁勳的談話展現出強烈的信心與明確方向。他表示,輝達與全球供應鏈之間的合作早已緊密串聯,從晶圓製造、先進封裝,到記憶體供應商與系統ODM工廠,所有夥伴都「很早就知道輝達的需求」,並且提前做好產能配置,確保公司在AI熱潮中擁有穩定供應。  
Thumbnail
11/19法說會中,黃仁勳的談話展現出強烈的信心與明確方向。他表示,輝達與全球供應鏈之間的合作早已緊密串聯,從晶圓製造、先進封裝,到記憶體供應商與系統ODM工廠,所有夥伴都「很早就知道輝達的需求」,並且提前做好產能配置,確保公司在AI熱潮中擁有穩定供應。  
Thumbnail
背景:從冷門配角到市場主線,算力與電力被重新定價   小P從2008進入股市,每一個時期的投資亮點都不同,記得2009蘋果手機剛上市,當時蘋果只要在媒體上提到哪一間供應鏈,隔天股價就有驚人的表現,當時光學鏡頭非常熱門,因為手機第一次搭上鏡頭可以拍照,也造就傳統相機廠的殞落,如今手機已經全面普及,題
Thumbnail
背景:從冷門配角到市場主線,算力與電力被重新定價   小P從2008進入股市,每一個時期的投資亮點都不同,記得2009蘋果手機剛上市,當時蘋果只要在媒體上提到哪一間供應鏈,隔天股價就有驚人的表現,當時光學鏡頭非常熱門,因為手機第一次搭上鏡頭可以拍照,也造就傳統相機廠的殞落,如今手機已經全面普及,題
Thumbnail
本文分析導演巴里・柯斯基(Barrie Kosky)如何運用極簡的舞臺配置,將布萊希特(Bertolt Brecht)的「疏離效果」轉化為視覺奇觀與黑色幽默,探討《三便士歌劇》在當代劇場中的新詮釋,並藉由舞臺、燈光、服裝、音樂等多方面,分析該作如何在保留批判核心的同時,觸及觀眾的觀看位置與人性幽微。
Thumbnail
本文分析導演巴里・柯斯基(Barrie Kosky)如何運用極簡的舞臺配置,將布萊希特(Bertolt Brecht)的「疏離效果」轉化為視覺奇觀與黑色幽默,探討《三便士歌劇》在當代劇場中的新詮釋,並藉由舞臺、燈光、服裝、音樂等多方面,分析該作如何在保留批判核心的同時,觸及觀眾的觀看位置與人性幽微。
Thumbnail
這是一場修復文化與重建精神的儀式,觀眾不需要完全看懂《遊林驚夢:巧遇Hagay》,但你能感受心與土地團聚的渴望,也不急著在此處釐清或定義什麼,但你的在場感受,就是一條線索,關於如何找著自己的路徑、自己的聲音。
Thumbnail
這是一場修復文化與重建精神的儀式,觀眾不需要完全看懂《遊林驚夢:巧遇Hagay》,但你能感受心與土地團聚的渴望,也不急著在此處釐清或定義什麼,但你的在場感受,就是一條線索,關於如何找著自己的路徑、自己的聲音。
Thumbnail
在這篇文章裡,你會一次掌握 NVIDIA 最新動態:從 OpenAI 10GW 超級合作、Blackwell 上線、DGX Spark 出貨,到財報數據與供應鏈進展。我會用淺白方式帶你看懂它如何從「賣 GPU」變成「蓋 AI 工廠」,以及未來 Rubin 平台與風險挑戰。
Thumbnail
在這篇文章裡,你會一次掌握 NVIDIA 最新動態:從 OpenAI 10GW 超級合作、Blackwell 上線、DGX Spark 出貨,到財報數據與供應鏈進展。我會用淺白方式帶你看懂它如何從「賣 GPU」變成「蓋 AI 工廠」,以及未來 Rubin 平台與風險挑戰。
Thumbnail
5 月將於臺北表演藝術中心映演的「2026 北藝嚴選」《海妲・蓋柏樂》,由臺灣劇團「晃晃跨幅町」製作,本文將以從舞台符號、聲音與表演調度切入,討論海妲・蓋柏樂在父權社會結構下的困境,並結合榮格心理學與馮.法蘭茲對「阿尼姆斯」與「永恆少年」原型的分析,理解女人何以走向精神性的操控、毀滅與死亡。
Thumbnail
5 月將於臺北表演藝術中心映演的「2026 北藝嚴選」《海妲・蓋柏樂》,由臺灣劇團「晃晃跨幅町」製作,本文將以從舞台符號、聲音與表演調度切入,討論海妲・蓋柏樂在父權社會結構下的困境,並結合榮格心理學與馮.法蘭茲對「阿尼姆斯」與「永恆少年」原型的分析,理解女人何以走向精神性的操控、毀滅與死亡。
Thumbnail
這篇文章帶你看懂 OpenAI 與 Broadcom 宣布 10GW 客製化 AI 晶片合作的全貌。你將獲得:新聞重點解析、從算力短缺到自研晶片的時間線、對 NVIDIA 與乙太網的影響補充,以及三大產業啟示。
Thumbnail
這篇文章帶你看懂 OpenAI 與 Broadcom 宣布 10GW 客製化 AI 晶片合作的全貌。你將獲得:新聞重點解析、從算力短缺到自研晶片的時間線、對 NVIDIA 與乙太網的影響補充,以及三大產業啟示。
追蹤感興趣的內容從 Google News 追蹤更多 vocus 的最新精選內容追蹤 Google News