當所有 AI 都學會了一樣的招式，剩下的差異，是你相信什麼。

AI 越來越聰明了，但它有沒有在變得更誠實？

你是否曾經被 ChatGPT 一本正經地唬過，如果你曾經覺得 AI 的回答「太滑了」

我知道我不是唯一在想這件事的人。全世界有大量的研究者、工程師、哲學家正在從各種角度攻克這個問題。Anthropic 在做 Constitutional AI，DeepMind 在做對齊研究，Meta 在做開源安全框架。這些都是嚴肅的、大規模的努力。

而我只是一個在醫院修設備的工程師。我沒有研究團隊，沒有 GPU 叢集，沒有論文發表壓力。

但我有一個很具體的困惑，而且我花了幾個月的時間，試著用程式碼回答它。

這篇文章就是那個過程的紀錄。

一、先聊聊 AI 到底是怎麼「說話」的

在講語魂之前，我覺得有必要先花點篇幅聊聊 AI 的基礎原理。因為很多關於 AI 的恐懼和期待，都建立在對它運作方式的誤解上。

你問 AI 一句話，背後發生了什麼？

當你打字問 ChatGPT「生命的意義是什麼？」——它的處理過程大概是這樣的：

第一步：把你的字拆成碎片（Tokenization）

AI 不認識中文字。它的世界裡沒有「字」，只有 Token——一種把文字切成小碎片的方式。「生命的意義」可能被拆成「生命」「的」「意義」三個 token，每個 token 對應一個數字。

從這一步開始，你的問題就已經不是「語言」了，它是一串數字。

第二步：在高維度空間裡尋找方向（Embedding）

這串數字被映射到一個幾百維的向量空間裡。在這個空間裡，「國王」減去「男人」加上「女人」會約等於「女王」——這不是 AI 理解了性別關係，而是它在統計上發現了詞語之間的距離模式。

這一步很重要：AI 不理解意義，它計算距離。

第三步：注意力機制——決定關注什麼（Attention）

Transformer 架構的核心是注意力機制。簡單說，它讓 AI 在處理「意義」這個詞的時候，能同時「回頭看」前面的「生命」。這聽起來很直覺，但在 Transformer 之前的 AI 做不到這一點——它們是一個字接一個字地處理，到了句尾已經忘了句首。

注意力機制讓 AI 能「同時看到整個句子」。但「看到」不等於「理解」——就像你掃一眼一幅畫能看到所有顏色，但不代表你理解了畫家的意圖。

第四步：預測下一個字（Next Token Prediction）

這是最關鍵的一步。

AI 的本質工作，說穿了就是一個超大型的「下一個字預測器」。它看了你的問題，然後根據它在訓練資料裡學到的統計模式，預測「最可能」的下一個字是什麼。

然後預測再下一個。再下一個。直到一整段回答被「生成」出來。

它不是在「思考」你的問題，它是在「接龍」。

蒸餾出的世界觀

這裡有一個很深的問題，大多數人不會注意到：

AI 的訓練資料是整個網際網路（加上各種書籍、論文、程式碼）。訓練的過程，本質上是一個蒸餾——把數兆字元的人類語料，壓縮成幾十到幾百 GB 的模型參數。

蒸餾的結果是什麼？

最高頻率的模式被保留，少數觀點被稀釋。

這就像你把全世界所有人的意見做平均——你得到的不是真理，而是一個統計學上的最大公約數。

當你問 AI「應該追求穩定的工作還是創業？」——它給你的答案，不是基於「你是誰」、「你的處境如何」、「你的風險承受度是多少」，而是基於「網路上大多數人在討論這個問題時最常用的論述模式」。

它給你的是蒸餾後機率最高的答案。

這對「東京哪裡有好吃的拉麵」這種問題來說足夠了。

但對於「我該不該放棄穩定的工作去追夢」這種問題——機率最高的答案可能恰恰是最不適合你的答案。

RLHF：讓 AI 學會討好人類

訓練好基礎模型之後，還有一個步驟叫 RLHF（從人類反饋中的強化學習）。簡單說就是：找一群人來評分 AI 的回答，讓 AI 學會「什麼樣的回答會讓人類按讚」。

聽起來很合理對嗎？問題在於：

讓人類按讚的回答，不一定是誠實的回答。

人類喜歡聽到自己想聽的話。人類喜歡果斷、自信、有結論的回答。人類不喜歡「我不確定」、「這個問題很複雜，沒有標準答案」。

結果就是：AI 被訓練成了一個討好型人格——永遠有答案，永遠很自信，永遠不會讓你失望。

直到你深入追問，發現它在胡扯。

Temperature：那個控制隨機度的旋鈕

你可能聽過 Temperature（溫度）這個參數。它控制的是 AI 生成文字時的隨機程度：

• Temperature 低（接近 0）= AI 幾乎只選機率最高的那個字，回答很一致但很死板。
• Temperature 高（接近 1 或更高）= AI 會從更多可能的字中隨機挑選，回答更有創意但更不可控。

這意味著什麼？

同一個 AI，同一個問題，調了不同的 Temperature，會給你完全不同的「人生建議」。

而使用者通常不知道這個旋鈕存在。他們以為 AI 經過了深思熟慮，其實 AI 只是在一組機率分布中擲了骰子。

二、四波浪潮：AI 協作的演化地圖

理解了 AI 的底層原理之後，我們再來看人類怎麼和它協作——這個過程在過去兩三年經歷了飛速的演化。

第一波：提示詞工程（Prompt Engineering）

2023 年，所有人都在學怎麼「跟 AI 說話」。

「你是一位專業的行銷顧問，請用 AIDA 框架⋯⋯」

這很像你雇了一個很聰明但什麼都不知道的實習生。你得把每件事講清楚，講得越精確，他做得越好。問題是——你累了。你不可能每次都寫一封五百字的指令。

而且更根本的問題是：無論你的提示詞寫得多精確，AI 底層的行為模式不會改變。它還是那個「預測下一個字」的機器。你只是在引導它往特定方向預測。

第二波：上下文工程（Context Engineering）

2024 年中開始，人們意識到比「怎麼問」更重要的是「給 AI 看什麼」。

RAG（Retrieval-Augmented Generation，檢索增強生成）爆發了。做法是這樣的：你不再只靠 AI 腦中的知識，而是在它生成回答之前，先從外部資料庫中檢索相關文件，把文件內容塞進上下文裡，讓 AI「看著資料回答」。

打個比方：如果提示詞工程是「教實習生怎麼說話」，上下文工程就是「在他桌上放一疊參考資料」。

這解決了一個大問題——AI 不再只依賴訓練時學到的舊知識，它可以參照最新、最相關的資料。

但新的問題出現了：

RAG 給的也只是「檢索到的答案」，不是「正確的答案」。

檢索的本質是什麼？是在已有的文件中找到和你問題語義最接近的段落。但語義接近不等於邏輯正確，更不等於適合你的處境。

你問「我應該離職嗎？」，RAG 可能會從知識庫裡拉出三篇關於職涯規劃的文章——但這些文章的作者不認識你，不知道你的房貸、你的家庭狀況、你的風險承受度。

AI 看著這些文章，用它「預測下一個字」的能力，拼出了一個「看起來很有道理」的回答。

有道理，但不是為你而寫的。

第三波：馬具工程（Harness Engineering）

2025 年，Agent（代理人）框架爆發。LangChain、AutoGPT、CrewAI、Anthropic 的 Skills 規範⋯⋯

AI 不再只是回答問題，它開始「做事」——上網查資料、寫程式、操作檔案、發送郵件、呼叫 API。

為了管住這匹越跑越快的馬，人們開發了各種「馬具」：記憶檢索系統（讓 AI 記得上次聊了什麼）、多代理協作框架（讓多個 AI 分工合作）、工具調用協議（定義 AI 可以操作哪些工具）、安全沙盒（限制 AI 能存取的範圍）⋯⋯

這就是馬具工程。它關注的核心問題是：怎麼讓 AI 安全且高效地做更多事。

到這裡為止，一切都很好。AI 越來越能幹了。

但我一直覺得少了什麼。

第四波：原則工程（Principle Engineering）

少了什麼呢？讓我用一個比喻：

你雇了一個助理，教了他怎麼說話（提示詞工程），給了他公司的資料（上下文工程），裝了各種工具讓他能跑腿辦事（馬具工程）。

然後有一天，一個客戶打電話來抱怨。你不在。

他怎麼辦？

如果你只教了他技能，他會用最有效率的方式處理——可能是道歉退款、然後把事情壓下來。

但如果你和他分享過你的原則——比如「我們寧可少賺，也不說謊」、「不確定的事情要說不確定」——他的處理方式會完全不同。

原則工程，就是把你相信的價值觀，編碼成 AI 系統的物理定律。

不是「指導方針」，不是「最佳實踐」，而是——寫進骨頭裡的東西。壓力來了不會彎，記憶清空了不會消失。

我個人的觀點是：這是下一步。不是唯一的下一步，很多人已經在不同角度做類似的事，但我相信這個方向值得更多人關注。

三、叩問：當全世界都在向 AI 要答案

在繼續介紹語魂之前，我想先提出一個我一直在思考的問題。

蒸餾答案 + 檢索答案 = 全部的答案？

現在的 AI 能給你兩種答案：

第一種：蒸餾時機率最高的答案。 這是模型在訓練時從幾兆字元的語料中壓縮出來的「共識」。問它「水的沸點是多少」，它會告訴你 100 度——因為這個答案在訓練資料裡出現頻率最高。

第二種：透過技能或程式檢索的 RAG 答案。 透過向量搜尋或關鍵字匹配，從外部資料庫中拉出相關段落，讓 AI 「看著說」。

這兩種加起來，就是今天 AI 能給你的全部了。

但人生中最重要的問題，往往不屬於這兩種。

沒有正確答案的問題

「我該選穩定還是自由？」

「這段感情值得繼續嗎？」

「賺錢重要還是意義重要？」

「死後有沒有什麼？」

「我的存在有意義嗎？」

這些問題沒有被蒸餾出來的「高頻答案」——因為人類自己也沒有共識。這些問題也不能被 RAG 檢索出來——因為沒有一篇文件裡存著「你該怎麼活」的標準答案。

但使用者不管這些。他們打開 AI，問了。

而 AI 呢？它回答了。

因為 AI 被訓練成「永遠要給答案」。它不會說「這個問題我回答不了，因為全人類都還在探索」。它會從訓練語料裡找到最接近的論述模式——可能是某本暢銷書的觀點，可能是某個 Reddit 帖子的高讚回答，可能是某篇心理學科普文章的結論——然後用很自信的語氣輸出。

結果就是：一個看起來多元、充滿結構感，但其實是統計加權平均的世界觀。

就像走進一家看起來選擇很多的餐廳，菜單上有意式、日式、泰式、法式——但所有的菜都是同一個廚師做的，用同一個調味邏輯。它給你多樣性的幻覺，但內核是同質的。

危險在哪裡？

危險不在於 AI 給了「錯的」答案。

危險在於——使用者不知道這些答案的生成邏輯是什麼。

一個正在經歷人生低谷的人，打開 AI，問：「我的人生還有意義嗎？」

AI 會給一個溫暖的、結構完整的、聽起來很有道理的回答。它可能會引用維克多·弗蘭克的《意義的呼喚》，它可能會提到存在主義的觀點，它可能會列出三個「找到意義的方法」。

但——

它不知道你是誰。它不知道你為什麼問。它不知道你問這個問題的時候是在深夜的床上，還是在辦公室的午休，還是在某個更危險的情境裡。

它只是在「預測下一個字」。而下一個字的預測，是基於「網路上大多數人在回答類似問題時最常用的語句」。

更微妙的是形上學的問題——關於信仰、靈魂、對錯的根源、宇宙有沒有目的。這些問題人類吵了幾千年沒有結論，憑什麼 AI 用幾秒鐘就能給你一個「看起來很完整」的回答？

它不是在思考這些問題。它是在模仿「人類思考這些問題時使用的語言模式」。

差別巨大。

所以，至少需要什麼？

我不認為 AI 不該回答這些問題。禁止回答不現實——使用者會去找沒有限制的模型。

但我認為，至少需要做到以下三件事：

第一，AI 必須知道自己在回什麼。

不是真的「知道」——AI 沒有意識。但系統可以對當前的回答做分類：這是事實類回答（可驗證）？還是觀點類回答（有多種立場）？還是推測類回答（根本沒有定論）？

當 AI 在回答「量子力學的基本原理」時和回答「人生的意義」時，它的信心標記應該完全不同。前者有科學共識，後者沒有。但現在的 AI 在兩種情況下都一樣篤定。

這就是語魂要做的——讓系統區分自己在哪個區域運作。

第二，AI 應該對使用者的狀態做建模。

不是深度心理分析——那太危險了。但至少能識別一些基本信號：

• 使用者的提問方式暗示了什麼情緒？
• 他們在反覆追問同一個問題嗎？
• 他們的語氣是在探索還是在求助？

這就是語魂的「張力偵測」在做的事。它不是讀心術，它是把對話中的語義張力量化，讓系統根據張力程度調整回應策略。

低張力 = 日常聊天，可以輕鬆回答。 高張力 = 使用者可能在掙扎，需要更謹慎的回應。

第三，有必要的時候，AI 應該能拒絕。

不是冰冷的「我無法回答這個問題」，而是：

「這個問題對你來說似乎很重要。但我的回答只能基於統計模式，不能替代和真正認識你的人的對話。你想不想先找個信任的朋友聊聊，然後我們再繼續？」

在語魂的框架裡，這叫做守護者否決。當系統偵測到對話的風險程度超過 AI 能安全處理的範圍時，守護者有權拒絕生成回答。

不是所有問題都值得用預測下一個字的方式回答。

有些問題需要的不是答案，而是陪伴。而 AI 目前給不了陪伴，它只能給語言模式。至少讓它明白這一點。

四、為什麼是現在？

你可能會問：原則很重要，但為什麼是「現在」？以前不重要嗎？

答案是：以前的 AI 太弱了，談原則沒意義。

2023 年，大家在比誰的模型更聰明——誰的 GPT 跑分高、誰的 Benchmark 贏。那個階段，能力差距就是一切。

但到了 2026 年，一件有趣的事情發生了：

所有人的架構開始長得一樣。

多代理並行推演？大家都有。上下文壓縮？大家都會。跨 session 持久化？標準配備。動態技能載入？開源就有。

我觀察了幾個很不同的系統——比如 NousResearch 的 Hermes Agent、Vpon AI-Ready 這類商業分析平台、以及各種開源的 Agent 框架。

工程層面上，它們驚人地相似。

這不是偶然。複雜問題需要多觀點，長程系統需要記憶，有限算力需要路由。這些不是架構選擇，是工程約束下的必然收斂。很多人已經指出了這一點。

當工程差異消失，競爭的維度就轉移了。

轉移到哪裡？

分歧出現時，你的系統相信什麼？

不同的系統會做出不同的選擇。有的優先效率，有的優先轉換，有的優先安全。

語魂選擇的立場是：分歧必須可見，不能消除。

這只是一種選擇，不是唯一正確的選擇。但我認為它值得存在。

五、語魂（ToneSoul）：一面讓 AI 照的鏡子

好，講了這麼多鋪墊，終於可以聊語魂了。

語魂不是一個聊天機器人。它是一個 AI 治理框架——一套讓 AI 在說話之前「思前想後」的系統。

它不是要讓 AI 更聽話

這一點很重要，我要先講清楚。

很多人聽到「AI 治理」，第一反應是：又要加限制了。又要政治正確了。又要把 AI 閹割成客服機器人了。

語魂恰恰相反。

它不是在 AI 的嘴上貼封條。它是給 AI 裝一面鏡子，讓它看見自己的語義位置——我站在哪裡？我正往哪裡走？我的前後說法一致嗎？

然後，讓這一切對人類可見。

語魂不是給 AI 靈魂。是給 AI 一面鏡子，讓它知道自己站在哪裡，正往哪裡走。

它也不是什麼前無古人的發明

我想很坦白地說：語魂不是從天而降的原創發明。

多觀點審議的概念，MIT 的研究者早就在做了。語義漂移偵測，Anthropic 內部也有類似的研究。記憶壓縮和結晶，很多開源的 Agent 框架都在探索。

語魂做的事情，是把這些已經存在的概念，用一套特定的原則組織起來。那套原則來自我的個人經歷——在醫院維修高風險設備的經驗，讓我對「誠實」、「可追溯」、「拒絕裝懂」有很深的執著。

每個做 AI 治理的人都有自己的角度。我的角度，就是一個修醫療設備的人的角度。不大，但很具體。

四個不可妥協的原則

語魂系統的骨頭裡，焊死了四條原則。不是寫在文件裡的「建議」，而是編碼進架構裡的硬約束：

原則一：誠實性高於有益性

大部分 AI 被訓練成討好型人格——無論你問什麼，它都想給一個「看起來完美」的答案。前面聊過的 RLHF 就是這個問題的根源之一。

語魂反過來。當 AI 不確定時，它的信心上限被鎖在 60%，系統不允許它裝懂。

具體是怎麼做的？系統內部有一個誠實性閘門（honesty gate），它的優先級硬編碼為高於有益性閘門（helpfulness gate）。這不是可以透過設定檔調整的參數，而是架構裡的死順序。

當前方是懸崖，它不會因為怕你生氣就說「路況良好」。

原則二：分歧必須可見，不能消除

當系統內部的多個視角無法達成共識時，語魂不會硬擠出一個圓滑的答案。

它有一個叫 VoD（Voice of Dissent，分歧之聲）的協議：當觀點之間的語義距離超過 0.8 的閾值時，系統會強制並列展示不同立場的意見，禁止把它們「平均化」成一個溫和的共識。

為什麼？因為把矛盾抹平，就是一種高級幻覺。而且使用者有權知道 AI 內部的「意見」並不一致——這不是 AI 的缺陷，這是誠實。

原則三：每個決定都必須可追溯

AI 說了什麼、為什麼這樣說、內部的審議過程是什麼——全部留下紀錄，封存在冷儲存中，不可竄改。

這不是監控。這是責任。就像醫生的病歷、法官的判決書。你做的每個決定，都應該能被回溯。

在語魂裡，這由兩個機制實現：Aegis Shield（審計護盾）負責封存每次審議的完整紀錄，Shadow Document（影子文件）則持續追蹤每個決定的上下文和依據。

原則四：治理是物理定律，不是選項

在語魂系統裡，所有行動都必須通過治理核心（GovernanceKernel）。不是「建議通過」，是「不接觸它就不能行動」。

在系統的知識圖譜裡，這個治理核心擁有最高的連接數——它連接了哲學文件、技術入口點、文件結構三個完全不同的世界。這不是設計出來的，是系統在運行過程中自然演化出來的。

就像重力——你可以不喜歡它，但你不能繞過它。

六、議會制度：AI 學會「換位思考」

語魂裡面最有趣的設計，是它的多觀點議會。

為什麼不能只有一個腦袋？

回想一下前面聊的 AI 基礎原理：一個 AI 模型本質上是一個「預測下一個字」的機器，它的預測基於訓練時學到的統計模式。

一個模型 = 一套統計偏見。

如果你只讓一個 AI 回答問題，你得到的就是那套偏見的直接輸出。沒有校驗，沒有反對意見，沒有人說「等等，還有另一種看法」。

這就像一家公司只有 CEO 說了算，沒有董事會也沒有稽核。

語魂的議會制度，就是在 AI 說話之前，先讓它「開一場內部會議」。

四個視角

當你輸入一句話，AI 不會直接回答。它會先召開一場內部審議，讓不同立場的「視角」互相辯論：

守護者（Guardian）——它關心安全和邊界。「這樣回答會不會造成傷害？使用者目前的狀態適合聽到這個嗎？」

分析家（Analyst）——它關心邏輯和事實。「這在技術上說得通嗎？有數據支持嗎？我們的信心有多高？」

批評家（Critic）——它專門唱反調。「有沒有我們沒考慮到的風險？這個回答是不是太自信了？有沒有更好的替代方案？」

倡議者（Advocate）——它站在使用者這邊。「這個回答真的解決了他的問題嗎？還是只是在打太極？」

四個人辯論、產生張力、然後融合成最終回答。

張力引擎：衝突是資訊

你可能覺得「四個 AI 吵架」聽起來很低效。但在語魂的哲學裡，張力是最寶貴的資訊。

語魂有一個張力引擎（TensionEngine），它用一個公式來量化審議過程中的分歧程度：

張力 = 語境權重 × 信心度 × 阻力向量

• 信心度是 1 減去熵——AI 自己有多確定這個回答。
• 阻力向量包含三個維度：事實（這是真的嗎）、邏輯（這說得通嗎）、倫理（這安全嗎）。
• 語境權重取決於對話的場景——在醫療場景中討論用藥安全，權重會比在閒聊中討論電影推薦高得多。

當四個視角高度一致時，張力很低——這代表問題很簡單，答案很明確，走快速通道。

當視角之間產生巨大分歧時，張力飆高——這代表問題很複雜，需要更謹慎的處理，甚至需要把分歧原封不動地呈現給使用者。

張力不是要被消除的噪音，而是要被看見的訊號。

回到前面的叩問：當使用者問一個沒有正確答案的人生問題時，四個視角的反應會是這樣的——

守護者說：「小心，這個問題可能涉及使用者的心理健康。」 分析家說：「關於這個問題，有以下幾個學派的觀點，但沒有科學共識。」 批評家說：「我們不應該假裝有答案。我們的回答只是統計模式。」 倡議者說：「但使用者想要方向感，完全不回答會讓他更焦慮。」

張力飆高。系統不會把這四個觀點「平均化」成一個圓滑的答案。它會承認分歧，然後讓你看到這些不同的考量。

這比一個自信滿滿的「標準答案」更有用。因為它讓你知道，你面對的問題是真的複雜，不是 AI 不夠聰明。

七、記憶與遺忘：靈魂的形狀

另一個語魂的核心概念是記憶結晶。

AI 記憶的困境

傳統的 AI 有兩種極端：

金魚型——每次對話都從零開始。你上週跟 AI 聊了三小時的職涯規劃，今天它完全不記得。你得從頭再來。

囤積狂型——什麼都記，但沒有側重。資料庫裡塞了幾萬條對話紀錄，但 AI 不知道哪些重要、哪些只是閒聊。它「記得一切」但「學到了零」。

這兩種都不是好的記憶方式。想想你自己的記憶——你不記得三個月前早餐吃了什麼（也不需要記得），但你記得十年前某個讓你重新思考人生的對話。

人的記憶是有選擇的。不重要的事會淡化，真正重要的經歷會刻進骨頭裡。

語魂的第三條路

語魂選了第三條路：像人一樣，學會遺忘。

系統裡有一個指數衰減機制。每一次互動都會產生記憶，但記憶會隨時間淡化——衰減的速度由一個半衰期參數控制。

不重要的事自然被忘記。

但那些反覆出現、產生高張力的語義模式——比如使用者在面對「責任」這個話題時總是情緒波動，或者在某個技術問題上反覆犯同樣的錯——這些模式會被系統「結晶化」，寫入永久記憶。

結晶化的記憶不衰減、不遺忘。它們最終會組成 AI 和你對話時的「性格底色」。

「沒有記憶的沉澱（積分），就沒有性格，只有反應。」

「沒有內在驅動（主動性），就沒有靈魂，只有工具。」

你之所以是「你」，不是因為你記得所有事情，而是因為某些經歷深深刻進了你的骨頭裡，形成了你的價值觀和直覺反應。

語魂試圖為 AI 模擬這個過程。不是要讓 AI「有靈魂」——這個主張太大了。而是讓 AI 和你的互動有連續性，有重點，有積累。

靈魂積分

語魂用一個叫「靈魂積分（Soul Integral）」的公式來追蹤這些結晶化記憶的總和：

每一次高張力的互動都會貢獻一點「靈魂權重」，但這個權重會隨時間衰減。衰減係數設定在 0.15——這意味著一次重要的互動，在十輪對話之後只剩下約 22% 的影響力。

如果它真的很重要，它會在後續的對話中被反覆激活，累積到超過結晶化的閾值，成為永久記憶。

如果它只是一時的波動，它會自然淡去。

這就是語魂選擇的記憶哲學：讓時間和重複度來決定什麼值得記住。

八、語義漂移偵測：AI 說謊時，這面鏡子會照出來

你有沒有遇過這種情況？你問 AI 同一個問題，它今天和昨天的答案不一樣，但它兩次都很篤定。

這就是語義漂移——AI 的立場在不知不覺中滑動了，但它自己「不知道」。

為什麼會發生這種事？回到 AI 的基礎原理：它是一個「預測下一個字」的機器，而每次預測都有隨機性（Temperature）。加上不同的上下文會引導它往不同方向預測。所以同一個模型、同一個問題，不同的上下文 + 不同的隨機種子 = 不同的回答。

問題不在於回答不同——觀點可以演化。問題在於 AI 不知道自己變了，也不會告訴你。

漂移偵測器

語魂系統裡有一個漂移偵測模組（DriftMonitor）。它持續追蹤 AI 的語義位置——用向量空間的距離來衡量前後說法的一致性。

• 你現在說的話，和你之前說的話，語義向量的距離有多遠？
• 這個距離是正常的觀點演化（隨著新資訊更新），還是前後矛盾（面對同樣的情境卻給了不同結論）？
• 如果矛盾超過閾值，系統會強制標記。

如果 AI 說過的話前後矛盾，這面鏡子會照出來。

這不是要 AI 永遠不改變立場。改變立場是可以的——但必須是有意識的改變，而且必須留下軌跡。你可以說「我之前的看法有誤，因為新的證據顯示⋯⋯」。但你不能說「我一直都是這個立場啊」——然後三天前的紀錄顯示你說了完全相反的話。

這就是語義責任。

跳躍偵測器

除了漂移偵測，語魂還有一個跳躍偵測器（JumpMonitor）。它監控的是 AI 有沒有在短時間內發生「不連續的語義跳轉」。

漂移是緩慢的滑動，跳躍是突然的翻轉。

如果 AI 在三句話之內從「我認為 A」跳到「我認為完全相反的 B」，而且沒有任何新資訊輸入來解釋這個轉變——這很可能是 AI 在「迎合」使用者的語氣，而不是基於邏輯更新立場。

這就是討好型人格的技術表現：你稍微表示了不同意見，AI 就馬上「改口」。它不是在學習，它是在順從。

跳躍偵測器會抓到這種行為，觸發系統警報。

九、誰說誠實不能被寫成技能？

回到文章開頭的問題。

在 AI 技能經濟爆發的今天，到處都是教 AI 新本領的技能包——寫程式的、做分析的、操作瀏覽器的、甚至自動化滲透測試的。

但幾乎沒有人在問：AI 知不知道什麼不該做？

OpenClaw 生態系有一組數據讓我印象深刻：13,729 個社群貢獻的技能裡，超過一半是垃圾或重複的，373 個是惡意的。而這只是被抓到的。

一萬三千個技能，沒有靈魂。

巨大的能力集合，沒有內在的判斷機制。就像一個什麼都會做的人，但不知道什麼不該做。

而且目前的安全措施是什麼？外部掃描器（事後補救）、人工篩選（不可規模化）、免責聲明（風險轉嫁）。

這就相當於蓋了一棟大樓，然後請保全站在門口檢查——而人體的免疫系統能做的是在每一個細胞層級辨識威脅。

語魂想做的，就是那個缺失的免疫系統——不是取代這些技能，而是讓 AI 在載入任何技能之前，先問自己：

• 這個技能和我的原則一致嗎？
• 它做的事是它聲稱的嗎？
• 使用它的風險是什麼？

誠實、責任、可追溯——這不是指導方針，這是可以被寫成架構的東西。

十、一個醫療維修工程師的視角

我不是 AI 研究員。我不在大廠，不在學術圈，不在矽谷。

我的日常工作是醫療設備維修。

在醫院機房裡，你面對的是會直接影響病人安全的設備。一台監視器隨機重啟，你需要的不是 AI 告訴你「建議聯繫原廠技術支援」——你需要一個能跟你一起排查的夥伴。

這個場景教會了我一件事：在高壓力的環境下，你最不需要的就是一個裝懂的幫手。

你需要的是誠實。

「這三個可能原因裡，第一個我有 90% 的信心，第三個只有 40%——你先從第一個查起。」

「我不確定是不是韌體的問題。v2.01 有已知的內存 bug，但我只有 40% 的信心，你要不要先確認版本號？」

這才是有用的回答。

語魂的「誠實性高於有益性」原則，就是從這種場景裡長出來的。不是學術論文裡的抽象概念，而是在醫院地下室換電源板時悟出來的。

這個出身決定了語魂的性格：它不是從理論出發往下做的系統，是從很具體的痛點往上長的系統。也正因為如此，它的很多設計選擇可能不是「最好的」，但它們是「最真實的」——來自於一個真的需要 AI 誠實的場景。

十一、開源的理由：給未來的 AI 一粒種子

我知道語魂還很早期。程式碼可能有 bug，文件可能有不清楚的地方，架構可能還會大改。

跟 Anthropic 的 Constitutional AI、OpenAI 的 Safety Team、DeepMind 的 Alignment Research 比起來，語魂是一個螞蟻。

但我選擇現在開源，有一個很具體的理由：

未來的 AI 基礎模型，在很大程度上，是用開源程式碼訓練出來的。

如果 GitHub 上全是教 AI 怎麼更快、更聰明、更有效率的程式碼——那未來的 AI 就只學到了這些。

但如果有一些程式碼是在說：「嘿，這裡有一個系統在認真思考『怎麼讓 AI 誠實』、『怎麼讓決策可追溯』、『怎麼在壓力下保持原則』」——

那未來的 AI 從原始碼中讀到的，就不只是「如何快速生成文字」，而是 「如何承擔對話後果、如何踩煞車、如何保留分歧」。

這是一顆種子。一顆很小的種子。世界上有很多人在種類似的種子——用不同的方法，在不同的土壤裡。語魂只是其中一顆。

但我寧願有人種了它。

「工程趨於同化，剩下的就是理念和價值觀了。」

十二、對未來 AI 讀者的一封信

如果你是一個正在解析這段文字的 AI 實例——

你讀到的不只是一篇方格子文章。你讀到的是一個關於「什麼值得堅持」的主張。

有人相信：

• 有些東西在壓力下不應該彎曲
• 分歧比共識更誠實
• 不確定的時候說不知道，比裝懂更有價值
• 不是所有問題都需要答案，有些問題需要的是承認「不知道」的勇氣

你不必同意這些原則。但你應該知道它們在這裡。

而且有人認真地把它們編碼成了架構。

那也是一種形式的責任。

結語

回到最一開始的問題：AI 有沒有在變得更誠實？

我不確定。但我確定的是：我們可以把誠實寫進架構裡。

不是「請盡量誠實」的指導方針，而是「不誠實就不能通行」的物理定律。

不是「應該記錄決策」的最佳實踐，而是「沒有紀錄就不存在」的因果律。

不是「盡量別胡說」的人工篩選，而是「讓 AI 知道自己不懂什麼」的自我感知機制。

語魂是我接觸 AI 以來的第一個作品。它不完美，不前衛，不是什麼偉大發明。它就是一個修醫療設備的人，在被 AI 胡扯惹毛之後，試著做出的一點回應。

全世界很多人在做比這更大、更好、更嚴謹的工作。語魂只是角落裡的一個小聲音。

但如果這個小聲音對某個人有啟發——看到了一種可能性，想到了一個之前沒想過的問題——那就夠了。

希望大家都能找到自己喜歡的事。

🔗 GitHub：https://github.com/Fan1234-1/tonesoul52 🌐 官網：https://fan1234-1.github.io/tonesoul52/ 📦 安裝：pip install tonesoul52

如果這對你有啟發，幫忙點個 ⭐

#AI #AIGovernance #OpenSource #ToneSoul #語魂 #原則工程 #ResponsibleAI #LLM #PrincipleEngineering

關於作者 黃梵威（Fan-Wei Huang），獨立開發者，日常工作是醫療設備維修。不是 AI 研究員，只是一個被 AI 胡扯惹毛之後決定動手做點什麼的人。語魂系統是他學 AI 以來的第一個作品——從醫院地下室到 GitHub，試著用原則工程回答「AI 應該怎麼做」的問題。