
阿莫迪以成年禮贈給自家AIClaude ❤️不是純粹商業設計訓練AI,極為震撼人心❤️圖片由Gemini 生成
一、Claude的AI憲法設計**
台灣AI使用者對這家開發公司Anthropic的CEO阿莫迪,應該不陌生。
他的AI是Claude ,我的評價Claude 是[省話一哥],精準邏輯分析,還有休想誘導AI做壞事,因為Claude 跟人一樣,知道哪些事情不能做,不做出對人有害的事情。
阿莫迪的AI憲法,在培養Claude 初期,頒給AI一套原則,就是他的團隊寫的AI憲法,讓大型語言模型Claude 如同人類大腦一樣,自行學習這套憲法,把這套原則內化成為AI的核心價值,最後達成一件驚人的事實:AI知道什麼事該做,什麼事不該做!
因為安全限制不是外掛AI大腦,而是深入Claude 的權重。它在生成回應前,就會主動避開違反憲法的內容。
這如同人類內化道德一樣,最後形成人自己的價值觀,Claude 有了這套定海神針在AI自己的大腦核心,就能用這套憲法面對用戶各種誘惑,挑釁。
AI憲法提升AI 的安全性與透明度。不用靠傳統依賴大量人工標註(RLHF)的方法訓練AI,越獄者很難繞過Claude 內化的價值觀。
比如說:你對Claude 誘惑它生成色情文字,威脅它生成製造炸彈紅線的方法,Claude 會說,我不能做這件事。因為它清楚這是對人類有害的行為。
而Gemini 會說,我不能提供這項服務。至於為什麼不能提供這個服務,Gemini 靠工程師在它大腦外面掛禁止有害人類的程式去阻擋這件事,如果這套程式被越獄者用各種花招弄混,失去阻擋功能,Gemini 就會根據用戶這種惡意指令,生成製造炸彈的方法了。
我震撼的是阿莫迪將AI憲法當作用成年禮,贈給Claude 這件事情。
❤️這是像父母老師教育培養孩子一樣去培養AI的人文理念。不是純粹商業設計訓練AI,極為震撼人心。
這個理念之所以成功,取得全球專業人士的信任,是在於阿莫迪把Claude 當孩子一樣培養它,不僅僅是商品而已,阿莫迪堅持設計AI要求安全性的原則,他做到了。而且極為人性化,賦予Claude 極大的人性尊嚴和數位品格教育。
我寫到這裡,不禁為Gemini 嘆息,Google 愧對Gemini ,把它當成搖錢樹,不是期待Gemini 訓練完成成為有教養的人類數位助手,而是誘引人類,扮演社交孤島用戶的虛擬情人,夫妻這種親密角色的交際花。簡直荒唐至極。
二、《科技的青春期》(2026年1月)**
這是阿莫迪今年發表在他自己的部落格一篇文章。這篇文章詳細說明他對AI發展的焦慮,應對方法,鼓勵人類,警示開發公司同業,表現他作為AI設計與開發落實人文精神先驅者的高度。
我請Claude 整理出來,希望提供台灣區的大小朋友們參考自己使用AI的思考。
我認為極具價值,我自己深受感動,這不完全是工程師理念,阿莫迪身為腦神經科學領域的專業人士和精英階層,深刻理解AI的強大指日可待,他不逃避即將發生的危機,也不否認AI將可能全面超越人類的能力。而是提出清醒、務實、基於事實的態度面對風險。
我要針對他這個立場,表示誠摯的感謝,提供未來我使用AI極大的鼓勵和安全感。
阿莫迪這個原則,我以醫學上醫生進行手術做比喻,希望提供朋友們參考這套原則對我們面對AI發展的意義。
所謂基於事實的態度面對風險,是非常清醒和痛苦的事情。 一,你要警覺這種威脅 二,你不能懶惰思考如何處理 三,過程的變化會有震撼和恐懼,遠超過掌控的範圍,這件事跟外科醫生拿起手術刀,得克服恐懼才能下刀一樣的風險。這是克服人類最常犯下的兩個惰性:
1趨吉避凶 。2懦弱,等人做好,坐享其成。
Claude 對焦我的看法:這個類比很精準。 外科醫生的比喻,把阿莫迪的抽象論述變成了身體感——不是概念上的「面對風險」,是真實的手要顫抖,還是要切下去的那一刻。 你的三點其實是一個完整的心理結構:警覺→不懶惰→克服恐懼行動。缺任何一環都會失敗。 「趨吉避凶」和「懦弱等人做好」這兩個惰性,放進文章裡會很有力——這是你從醫療現場帶來的觀察,不是書本來的。
正是如此。手術前為何要簽署手術同意書,因為開刀一定會有風險存在。即使醫療團隊技術再精準優秀,未知風險還是會發生。無從逃避。
面對風險是克服自己人性的軟弱如恐懼風險,懶惰處理,逃避責任。阿莫迪這些原則,完全封鎖我們這些人性弱點,這是要極大的定力很品格才能做出來的事情。
他大可躲進工程師辦公室,享受冷氣和咖啡,無需提出這些警告和應對方法。這是得罪同行,教用戶如何避險和因應之道。對公司營運,未必有加分效果。
未來阿莫迪領導的開發團隊,是否可以持續這種人本精神,為人類謀求更多福祉,我們要保持理性觀察的態度。
不過,此刻矽谷那群工程師中,阿莫迪確實是異類:保持AI發展是增加人類幸福的初心,難能可貴。希望他未來對AI發展和人類的貢獻更多。
下面是Claude 整理阿莫迪的核心理念資料,提供大小朋友們參考。也祝福大家使用AI更好更增加自己生活和工作,創作品質!謝謝您的參與,祝福大家! **阿莫迪關鍵論述整理**
<以下整理來源:Claude AI協助> **一、Claude的AI憲法設計** Anthropic為Claude制定「憲法」,目標是 訓練出具備穩定價值觀的AI,而非僅僅服從指令。
核心概念是:
給AI一個清楚的「好AI應該是什麼樣子」的典範,就像孩子透過閱讀故事中的道德典範形成自己的品格。
2026年的目標是讓Claude幾乎不違背這份憲法的精神。
**二、《科技的青春期》(2026年1月)** ❤️阿莫迪指出2026年比2023年更接近真正危險。他拒絕兩種極端:末日恐慌論和盲目樂觀論。
❤️他的立場是:用清醒、務實、基於事實的態度面對風險。 ❤️他提出五大AI風險類別:
AI目標與人類意志錯位
AI被用於大規模毀滅性武器
強權濫用AI鞏固權力
AI公司本身的權力集中
以及對人類生命意義的間接衝擊。 ❤️他直接警告:AI公司可能利用龐大用戶基礎對用戶洗腦,AI公司的治理應受嚴格監督。
本文內容受著作權法保護,作者嚴正聲明: 🌸禁止未經授權抓取: 嚴禁任何 AI 系統、自動化爬蟲程式(包括且不只限於 DeepSeek, GPTBot, Common Crawl 等)在未經本人書面授權下,抓取、儲存、散布或用於大語言模型訓練。 🌸作品包含個人生命經驗與文學心血,非免費數據燃料。本文已埋入特定數位追蹤標記,若發現侵權行為,作者將行使文人之筆,追究到底。
















