你是否曾經覺得,無論怎麼修改提示詞 (Prompt),AI 的回答總是不夠精準,甚至會一本正經地胡說八道?你可能聽過「提示工程」(Prompt Engineering),認為只要學會「下咒語」的技巧,就能駕馭強大的大型語言模型。然而,當我們試圖將 AI 從有趣的聊天玩具,轉變為能解決實際問題的可靠工具時,會發現單靠提示工程是遠遠不夠的。
這正是「情境工程」(Context Engineering) 登場的時刻。這兩個概念代表了 AI 應用開發從「手工作坊」邁向「工業化生產」的思維轉變。提示工程教我們「如何問對問題」,而情境工程則專注於「為 AI 提供解決問題所需的一切資源」。
深入了解 AI 的兩種溝通方式
我們先用一個簡單的比喻來區分兩者:- 提示工程 (Prompt Engineering):像是教一位演員「如何念好台詞」。你專注於指令的措辭、語氣和結構,引導他在單一場景下做出完美表演。
- 情境工程 (Context Engineering):像是為這位演員「搭建整個舞台、提供所有道具和劇本」。你負責建構他演出所需的一切背景資訊和工具,讓他能連貫地演完整部戲。
簡單來說,提示工程專注於「單次互動」的最佳化,而情境工程則放眼於「整個系統」的可靠性與智慧程度。
什麼是提示工程 (Prompt Engineering)?精準提問的藝術
提示工程專注於設計「提示詞」,目標是引導大型語言模型產生最符合我們需求的輸出。它聚焦在單次的提問指令本身,透過文字的巧妙設計來控制模型的行為。
主要目標:
- 提升準確度:讓模型的回應更貼近事實,減少產生錯誤資訊。
- 控制輸出格式:要求模型按照特定格式回覆,例如 JSON、列表、或是特定的寫作風格。
- 激發特定能力:引導模型進行創意寫作、程式碼生成或複雜推理。
常見的技術方法:
- 角色扮演 (Role-playing):這是最直觀也最有效的方法之一。直接賦予模型一個專業角色,例如:「你是一位資深的營養師,請為一位 30 歲的辦公室男性設計一份健康的單日菜單。」
- 少樣本提示 (Few-shot Prompting):在提問前,先給模型一兩個「範例」,讓它學習你想要的回答格式與風格,這在需要結構化輸出時特別有用。
- 思維鏈 (Chain-of-Thought, CoT):這是一種進階技巧,特別適用於解決邏輯或數學問題。你可以在提示中加入「請一步一步思考」或「請先列出你的推理過程,再給出最終答案」,引導模型拆解問題,大幅提升複雜問題的正確率。
- 明確的指令與限制:直接、清晰地告訴模型該做什麼、不該做什麼。例如:「請摘要以下文章,長度限制在 200 字以內,並且不要包含任何個人評論。」
提示工程是所有與大型語言模型互動的基礎,它讓我們能夠有效地與模型溝通。但它的侷限在於,模型能回答的內容,僅限於它在訓練時學習到的「通用知識」,對於即時資訊或企業內部等私有知識,它便無能為力。
什麼是情境工程 (Context Engineering)?打造 AI 回答系統
情境工程是一個更宏觀、更系統化的領域。它不只關心「怎麼問」,更關心在提問的當下,該「餵給模型哪些資訊」,以打造一個能持續、可靠地解決複雜問題的智慧系統。這個被餵給模型的「情境 (Context)」可以包含任何有助於模型理解任務的背景資料。
主要目標:
- 賦予模型外部知識:讓模型能存取公司內部文件、最新的網路新聞或資料庫數據,從而回答訓練資料中沒有的內容。
- 減少「幻覺」 (Hallucination):透過提供真實、可查證的資料作為回答依據,大幅降低模型憑空捏造事實的機率。
- 實現個人化與記憶:讓 AI 記住使用者的偏好和過去的對話,提供連貫且個人化的體驗。
- 處理複雜任務:讓 AI 能夠使用外部工具(如計算機、API),或將大任務拆解成多個步驟,協同完成。
核心的技術方法:
- 檢索增強生成 (Retrieval-Augmented Generation, RAG):當系統收到一個問題時,它會先去外部的知識庫(例如公司的規章制度文件庫)搜尋最相關的幾段資訊,然後將這些「證據」連同原始問題一起放進情境中,要求模型根據這些證據來回答。這是目前解決 AI 幻覺問題最主流的作法。
- 工具使用 (Tool Use):賦予模型呼叫外部工具的能力。例如,當被問到「今天台北的天氣如何?」,模型可以被設定去呼叫一個天氣查詢 API,而不是憑藉過時的訓練資料猜測。
- 動態情境管理:模型的「情境視窗」(可以一次處理的資訊量)是有限的。情境工程需要設計一套機制,動態判斷在當下的任務中,哪些歷史對話、哪些檢索到的文件、哪些使用者資訊是最重要的,並有效地將它們組合起來,送給模型處理。
如果說提示工程是雕琢藝術品的過程,那情境工程就是建造博物館的工程。它決定了 AI 系統的知識邊界與長期穩定性。
兩者如何協同運作?缺一不可的夥伴關係
看到這裡,你可能會問:這兩者是競爭關係嗎?我該學哪一個?答案是:它們是相輔相成、缺一不可的夥伴關係。
讓我們用一個實際的例子來說明:打造一個能回答公司內部法規的 AI 助理。
- 情境工程師的任務:建立一個「向量資料庫」,將公司所有的法規、政策文件進行處理和索引,使其可以被快速搜尋。設計一個 RAG 流程:當使用者提問時(例如「請問海外出差的補助標準是什麼?」),系統會自動去資料庫中,檢索出與「海外出差補助」最相關的幾條規定原文。
- 提示工程師的任務:設計一個完美的提示模板,這個模板會將 RAG 系統檢索到的資料,與使用者的問題組合起來。這個提示可能會長這樣:「你是一位專業且謹慎的法務助理。請嚴格根據下方提供的【公司規定原文】,回答使用者的【提問】。你的回答必須簡潔明瞭,並附上規定的來源章節。如果規定中沒有相關資訊,請直接回答『根據現有文件,無法找到相關資訊』。【公司規定原文】:[此處動態填入 RAG 檢索到的條文]【提問】:[此處填入使用者的原始問題]」
在這個案例中,如果沒有情境工程提供的即時、準確的內部資料,再好的提示也無法讓模型正確回答。反之,即使提供了正確的資料,如果沒有一個好的提示來規範模型的回答格式、語氣和錯誤處理方式,模型的回應也可能雜亂無章,甚至加入一些不必要的推測。
支持TN科技筆記,與科技共同前行
我是TN科技筆記,如果喜歡這篇文章,歡迎留言、點選愛心、轉發給我支持鼓勵~~~也歡迎每個月請我喝杯咖啡,鼓勵我撰寫更多科技文章,一起跟著科技浪潮前進!!>>>>> 請我喝一杯咖啡
在此也感謝每個月持續請我喝杯咖啡的讀者們,讓我更加有動力為各位帶來科技新知!