從 Claude Shannon 到 Anthropic Claude:資訊理論如何成為 AI 的起點

更新 發佈閱讀 4 分鐘

當 Anthropic 把他們的模型命名為「Claude」時,這其實不是一個單純的品牌選擇,而是一種非常明確的致敬。致敬的對象,就是 Claude Shannon(克勞德·香農)。

但更重要的是,這個名字背後隱含著一個判斷:今天的 AI,仍然建立在香農當年定義的世界之上。

在Claude Shannon之前,資訊並不存在

在 20 世紀中葉之前,通訊更像是一門經驗科學。電話會有雜訊,訊號會失真,工程師只能不斷試錯與調整。沒有人真正知道訊息能不能被完美傳送,也沒有人知道系統的極限在哪裡。

這一切在 1948 年被改變。香農在 Bell Labs 發表了 A Mathematical Theory of Communication,把通訊從工程問題,提升為一個可以被精確描述的數學問題。

他做的第一件事,是重新定義「資訊」。透過 Information entropy,他將資訊理解為「不確定性」。越難預測的訊息,資訊量越大;越規律的訊息,就越容易被壓縮。

這個定義的關鍵不在公式,而在於一個轉變:資訊從此不再是抽象概念,而是可以被量化、被計算,甚至被設計的對象。

如果把這篇論文拆開來看,它其實做了三個非常關鍵的動作。

  1. 建立了一個統一的通訊模型。任何系統,都可以被抽象為訊息來源、編碼器、通道、解碼器與接收者。從電話到網路,甚至今天的 AI,都可以放進這個框架。
  2. 證明了資料可以被壓縮,而且存在理論極限。這就是為什麼我們今天能夠用極小的空間儲存音樂與影像,所有壓縮技術,本質上都在逼近這個界線。
  3. 證明在有雜訊的環境中,資訊仍然可以被幾乎無錯誤地傳輸。關鍵不在於消除雜訊,而在於設計正確的編碼方式。

電子老鼠與 AI 的最早原型

vocus|新世代的創作平台

Claude Shannon 的影響力不只停留在通訊與電路,他對機器是否可以學習也有非常早期的實驗。他打造了一隻可以走迷宮的電子老鼠 Theseus。

這個裝置第一次會不斷試錯,但只要走過一次,就能記住路徑,之後直接選擇最短路線。這裡其實已經包含了現代 AI 的幾個核心概念。系統能夠儲存狀態,能夠根據經驗更新行為,並在環境中做出更有效率的決策。

這不是深度學習,但它已經清楚展示了機器的行為,可以透過資訊的累積而改變。

為什麼 AI 會用 Claude 這個名字

回到今天,Anthropic 將模型命名為 Claude,其實是在傳達一個非常清楚的立場。AI 並不是從深度學習開始,也不是從大模型開始。它的根源,是資訊理論。

當模型在訓練時,本質上是在學習機率分布,也就是在處理不確定性。當模型生成內容時,本質上是在壓縮與重建資訊。當我們談 scaling law,本質上也是在討論資訊密度與計算資源之間的關係。

換句話說,今天 AI 所面對的問題,本質上仍然是香農當年提出的問題。

AI 的核心,不只是算力,而是資訊

香農留下來的是一種思考方式,當你面對一個複雜系統時,可以先問三個問題

  • 這個系統在處理什麼資訊
  • 資訊的瓶頸在哪裡
  • 理論上的極限是什麼

這三個問題,幾乎可以套用在半導體、AI,甚至投資市場。AI 並不是突然出現的革命,而是資訊理論在 70 年之後的自然延伸。而我們現在看到的每一個模型,其實都還站在 Claude Shannon 當年畫出的那條邊界之內。




留言
avatar-img
想想
21會員
231內容數
Hi!歡迎來到想想。我們一起觀察趨勢,理解來龍去脈,聊聊科技如何改變生活。 在快速變動的世界裡,找回思考的節奏。
想想的其他內容
2026/04/21
Anthropic 創辦人 Amodei 兄妹從 OpenAI 核心團隊出走的內幕。從物理學的人擇原理命名哲學,到獨家技術憲法 AI,Amodei 兄妹帶領 Claude 模型在 2026 年的算力競賽中守住安全紅線,正面挑戰奧特曼的 AI 帝國。
Thumbnail
2026/04/21
Anthropic 創辦人 Amodei 兄妹從 OpenAI 核心團隊出走的內幕。從物理學的人擇原理命名哲學,到獨家技術憲法 AI,Amodei 兄妹帶領 Claude 模型在 2026 年的算力競賽中守住安全紅線,正面挑戰奧特曼的 AI 帝國。
Thumbnail
2026/03/30
ARM 在 CEO Rene Haas 帶領下,正從 IP 授權公司轉型為晶片與系統供應商。這一轉變源於 AI 時代對整合速度與效率的需求,以及 CPU 在系統調度中的關鍵角色。隨著資料中心電力與功耗成為瓶頸,ARM 的效能優勢開始被放大。轉型也帶來與客戶競合與平台中立性的挑戰,影響半導體產業結構。
Thumbnail
2026/03/30
ARM 在 CEO Rene Haas 帶領下,正從 IP 授權公司轉型為晶片與系統供應商。這一轉變源於 AI 時代對整合速度與效率的需求,以及 CPU 在系統調度中的關鍵角色。隨著資料中心電力與功耗成為瓶頸,ARM 的效能優勢開始被放大。轉型也帶來與客戶競合與平台中立性的挑戰,影響半導體產業結構。
Thumbnail
2026/03/25
小米創辦人雷軍如何憑藉人車家全生態戰略,帶領小米汽車 SU7 實現對傳統車廠的降維打擊。透過自研澎湃 OS 與極致執行力,雷軍證明了科技巨頭在軟硬整合上的天然優勢。他的故事啟示:當汽車演變為智慧終端,掌握作業系統底層與生態鏈聯動的公司,才能在下一階段全球競爭中脫穎而出。
Thumbnail
2026/03/25
小米創辦人雷軍如何憑藉人車家全生態戰略,帶領小米汽車 SU7 實現對傳統車廠的降維打擊。透過自研澎湃 OS 與極致執行力,雷軍證明了科技巨頭在軟硬整合上的天然優勢。他的故事啟示:當汽車演變為智慧終端,掌握作業系統底層與生態鏈聯動的公司,才能在下一階段全球競爭中脫穎而出。
Thumbnail
看更多
你可能也想看
Thumbnail
全新版本的《三便士歌劇》如何不落入「復刻經典」的巢臼,反而利用華麗的秀場視覺,引導觀眾在晚期資本主義的消費愉悅之中,而能驚覺「批判」本身亦可能被收編——而當絞繩升起,這場關於如何生存的黑色遊戲,又將帶領新時代的我們走向何種後現代的自我解構?
Thumbnail
全新版本的《三便士歌劇》如何不落入「復刻經典」的巢臼,反而利用華麗的秀場視覺,引導觀眾在晚期資本主義的消費愉悅之中,而能驚覺「批判」本身亦可能被收編——而當絞繩升起,這場關於如何生存的黑色遊戲,又將帶領新時代的我們走向何種後現代的自我解構?
Thumbnail
本文介紹 Claude Cowork 的核心功能、優勢與應用場景,強調其從「對話」轉向「委派」的典範轉移,並解析其三大功能支柱:計劃、執行、連接。同時,比較 Cowork 與標準對話模式的適用時機,並提供「Ideas」行動卡片的應用建議,協助教育工作者與創作者將想法快速轉化為行動成果。
Thumbnail
本文介紹 Claude Cowork 的核心功能、優勢與應用場景,強調其從「對話」轉向「委派」的典範轉移,並解析其三大功能支柱:計劃、執行、連接。同時,比較 Cowork 與標準對話模式的適用時機,並提供「Ideas」行動卡片的應用建議,協助教育工作者與創作者將想法快速轉化為行動成果。
Thumbnail
若說易卜生的《玩偶之家》為 19 世紀的女性,開啟了一扇離家的窄門,那麼《海妲.蓋柏樂》展現的便是門後的窒息世界。本篇文章由劇場演員 Amily 執筆,同為熟稔文本的演員,亦是深刻體察制度縫隙的當代女性,此文所看見的不僅僅是崩壞前夕的最後發聲,更是女人被迫置於冷酷的制度之下,步步陷入無以言說的困境。
Thumbnail
若說易卜生的《玩偶之家》為 19 世紀的女性,開啟了一扇離家的窄門,那麼《海妲.蓋柏樂》展現的便是門後的窒息世界。本篇文章由劇場演員 Amily 執筆,同為熟稔文本的演員,亦是深刻體察制度縫隙的當代女性,此文所看見的不僅僅是崩壞前夕的最後發聲,更是女人被迫置於冷酷的制度之下,步步陷入無以言說的困境。
Thumbnail
長期以來,西方美學以《維特魯威人》式的幾何比例定義「完美身體」,這種視覺標準無形中成為殖民擴張與種族分類的暴力工具。本文透過分析奈及利亞編舞家庫德斯.奧尼奎庫的舞作《轉轉生》,探討當代非洲舞蹈如何跳脫「標本式」的文化觀看。
Thumbnail
長期以來,西方美學以《維特魯威人》式的幾何比例定義「完美身體」,這種視覺標準無形中成為殖民擴張與種族分類的暴力工具。本文透過分析奈及利亞編舞家庫德斯.奧尼奎庫的舞作《轉轉生》,探討當代非洲舞蹈如何跳脫「標本式」的文化觀看。
Thumbnail
透過 Anthropic Cowork 設計了一群 Agent 幕僚團隊,不是那種「我請 AI 幫我寫個 email」的程度,共有 5 位 Agent 幕僚,每個幕僚各司其職、共享知識庫,也能即時協作。因為是個人使用為主,因此全地端運作 , MCP 串 Notion、Slack、Gmail 等
Thumbnail
透過 Anthropic Cowork 設計了一群 Agent 幕僚團隊,不是那種「我請 AI 幫我寫個 email」的程度,共有 5 位 Agent 幕僚,每個幕僚各司其職、共享知識庫,也能即時協作。因為是個人使用為主,因此全地端運作 , MCP 串 Notion、Slack、Gmail 等
Thumbnail
在目前主流 AI 簡報工具中,Google Gemini 與 Gamma 各自有明顯的優勢與限制。 首先,Gemini 在內容生成方面表現相當穩定,能快速依照主題產出結構完整的簡報草稿,並且可以無縫轉換到 Google Slides 使用。這對於需要快速產出內容架構的情境非常有效。然而,其缺點也很
Thumbnail
在目前主流 AI 簡報工具中,Google Gemini 與 Gamma 各自有明顯的優勢與限制。 首先,Gemini 在內容生成方面表現相當穩定,能快速依照主題產出結構完整的簡報草稿,並且可以無縫轉換到 Google Slides 使用。這對於需要快速產出內容架構的情境非常有效。然而,其缺點也很
Thumbnail
一個多月、四隻龍蝦、四台電腦、幾千塊 token 學費;最後只留一隻,搬家到 Claude。這段學習的過程跌跌撞撞,但是很值得。以下文長、有些技術名詞沒解釋,只是一段「從頭說起」,沒興趣可以跳過。 TL;DR 從二月到現在,我從最多養了四隻OpenClaw龍蝦、讓它們互修互救、燒了三千塊toke
Thumbnail
一個多月、四隻龍蝦、四台電腦、幾千塊 token 學費;最後只留一隻,搬家到 Claude。這段學習的過程跌跌撞撞,但是很值得。以下文長、有些技術名詞沒解釋,只是一段「從頭說起」,沒興趣可以跳過。 TL;DR 從二月到現在,我從最多養了四隻OpenClaw龍蝦、讓它們互修互救、燒了三千塊toke
Thumbnail
本文深度解析賽勒布倫尼科夫的舞臺作品《傳奇:帕拉贊諾夫的十段殘篇》,如何以十段殘篇,結合帕拉贊諾夫的電影美學、象徵意象與當代政治流亡抗爭,探討藝術在儀式消失的現代社會如何承接意義,並展現不羈的自由靈魂。
Thumbnail
本文深度解析賽勒布倫尼科夫的舞臺作品《傳奇:帕拉贊諾夫的十段殘篇》,如何以十段殘篇,結合帕拉贊諾夫的電影美學、象徵意象與當代政治流亡抗爭,探討藝術在儀式消失的現代社會如何承接意義,並展現不羈的自由靈魂。
追蹤感興趣的內容從 Google News 追蹤更多 vocus 的最新精選內容追蹤 Google News