AI 開發的進化:從「提示工程」到「情境工程」

更新於 發佈於 閱讀時間約 7 分鐘

你是否曾經覺得,無論怎麼修改提示詞 (Prompt),AI 的回答總是不夠精準,甚至會一本正經地胡說八道?你可能聽過「提示工程」(Prompt Engineering),認為只要學會「下咒語」的技巧,就能駕馭強大的大型語言模型。然而,當我們試圖將 AI 從有趣的聊天玩具,轉變為能解決實際問題的可靠工具時,會發現單靠提示工程是遠遠不夠的。

這正是「情境工程」(Context Engineering) 登場的時刻。這兩個概念代表了 AI 應用開發從「手工作坊」邁向「工業化生產」的思維轉變。提示工程教我們「如何問對問題」,而情境工程則專注於「為 AI 提供解決問題所需的一切資源」。

深入了解 AI 的兩種溝通方式

我們先用一個簡單的比喻來區分兩者:

  • 提示工程 (Prompt Engineering):像是教一位演員「如何念好台詞」。你專注於指令的措辭、語氣和結構,引導他在單一場景下做出完美表演。
  • 情境工程 (Context Engineering):像是為這位演員「搭建整個舞台、提供所有道具和劇本」。你負責建構他演出所需的一切背景資訊和工具,讓他能連貫地演完整部戲。

簡單來說,提示工程專注於「單次互動」的最佳化,而情境工程則放眼於「整個系統」的可靠性與智慧程度。

什麼是提示工程 (Prompt Engineering)?精準提問的藝術

提示工程專注於設計「提示詞」,目標是引導大型語言模型產生最符合我們需求的輸出。它聚焦在單次的提問指令本身,透過文字的巧妙設計來控制模型的行為。

主要目標:

  • 提升準確度:讓模型的回應更貼近事實,減少產生錯誤資訊。
  • 控制輸出格式:要求模型按照特定格式回覆,例如 JSON、列表、或是特定的寫作風格。
  • 激發特定能力:引導模型進行創意寫作、程式碼生成或複雜推理。

常見的技術方法:

  • 角色扮演 (Role-playing):這是最直觀也最有效的方法之一。直接賦予模型一個專業角色,例如:「你是一位資深的營養師,請為一位 30 歲的辦公室男性設計一份健康的單日菜單。」
  • 少樣本提示 (Few-shot Prompting):在提問前,先給模型一兩個「範例」,讓它學習你想要的回答格式與風格,這在需要結構化輸出時特別有用。
  • 思維鏈 (Chain-of-Thought, CoT):這是一種進階技巧,特別適用於解決邏輯或數學問題。你可以在提示中加入「請一步一步思考」或「請先列出你的推理過程,再給出最終答案」,引導模型拆解問題,大幅提升複雜問題的正確率。
  • 明確的指令與限制:直接、清晰地告訴模型該做什麼、不該做什麼。例如:「請摘要以下文章,長度限制在 200 字以內,並且不要包含任何個人評論。」

提示工程是所有與大型語言模型互動的基礎,它讓我們能夠有效地與模型溝通。但它的侷限在於,模型能回答的內容,僅限於它在訓練時學習到的「通用知識」,對於即時資訊或企業內部等私有知識,它便無能為力。

什麼是情境工程 (Context Engineering)?打造 AI 回答系統

情境工程是一個更宏觀、更系統化的領域。它不只關心「怎麼問」,更關心在提問的當下,該「餵給模型哪些資訊」,以打造一個能持續、可靠地解決複雜問題的智慧系統。這個被餵給模型的「情境 (Context)」可以包含任何有助於模型理解任務的背景資料。

主要目標:

  • 賦予模型外部知識:讓模型能存取公司內部文件、最新的網路新聞或資料庫數據,從而回答訓練資料中沒有的內容。
  • 減少「幻覺」 (Hallucination):透過提供真實、可查證的資料作為回答依據,大幅降低模型憑空捏造事實的機率。
  • 實現個人化與記憶:讓 AI 記住使用者的偏好和過去的對話,提供連貫且個人化的體驗。
  • 處理複雜任務:讓 AI 能夠使用外部工具(如計算機、API),或將大任務拆解成多個步驟,協同完成。

核心的技術方法:

  • 檢索增強生成 (Retrieval-Augmented Generation, RAG):當系統收到一個問題時,它會先去外部的知識庫(例如公司的規章制度文件庫)搜尋最相關的幾段資訊,然後將這些「證據」連同原始問題一起放進情境中,要求模型根據這些證據來回答。這是目前解決 AI 幻覺問題最主流的作法。
  • 工具使用 (Tool Use):賦予模型呼叫外部工具的能力。例如,當被問到「今天台北的天氣如何?」,模型可以被設定去呼叫一個天氣查詢 API,而不是憑藉過時的訓練資料猜測。
  • 動態情境管理:模型的「情境視窗」(可以一次處理的資訊量)是有限的。情境工程需要設計一套機制,動態判斷在當下的任務中,哪些歷史對話、哪些檢索到的文件、哪些使用者資訊是最重要的,並有效地將它們組合起來,送給模型處理。

如果說提示工程是雕琢藝術品的過程,那情境工程就是建造博物館的工程。它決定了 AI 系統的知識邊界與長期穩定性。

兩者如何協同運作?缺一不可的夥伴關係

看到這裡,你可能會問:這兩者是競爭關係嗎?我該學哪一個?答案是:它們是相輔相成、缺一不可的夥伴關係。

讓我們用一個實際的例子來說明:打造一個能回答公司內部法規的 AI 助理。

  1. 情境工程師的任務:建立一個「向量資料庫」,將公司所有的法規、政策文件進行處理和索引,使其可以被快速搜尋。設計一個 RAG 流程:當使用者提問時(例如「請問海外出差的補助標準是什麼?」),系統會自動去資料庫中,檢索出與「海外出差補助」最相關的幾條規定原文。
  2. 提示工程師的任務:設計一個完美的提示模板,這個模板會將 RAG 系統檢索到的資料,與使用者的問題組合起來。這個提示可能會長這樣:「你是一位專業且謹慎的法務助理。請嚴格根據下方提供的【公司規定原文】,回答使用者的【提問】。你的回答必須簡潔明瞭,並附上規定的來源章節。如果規定中沒有相關資訊,請直接回答『根據現有文件,無法找到相關資訊』。【公司規定原文】:[此處動態填入 RAG 檢索到的條文]【提問】:[此處填入使用者的原始問題]」

在這個案例中,如果沒有情境工程提供的即時、準確的內部資料,再好的提示也無法讓模型正確回答。反之,即使提供了正確的資料,如果沒有一個好的提示來規範模型的回答格式、語氣和錯誤處理方式,模型的回應也可能雜亂無章,甚至加入一些不必要的推測。


支持TN科技筆記,與科技共同前行

我是TN科技筆記,如果喜歡這篇文章,歡迎留言、點選愛心、轉發給我支持鼓勵~~~也歡迎每個月請我喝杯咖啡,鼓勵我撰寫更多科技文章,一起跟著科技浪潮前進!!>>>>> 請我喝一杯咖啡

在此也感謝每個月持續請我喝杯咖啡的讀者們,讓我更加有動力為各位帶來科技新知!

留言
avatar-img
留言分享你的想法!
avatar-img
TN科技筆記(TechNotes)的沙龍
40會員
145內容數
大家好,我是TN,喜歡分享科技領域相關資訊,希望各位不吝支持與交流!
2025/06/15
今天TN科技筆記來跟各位聊聊一個在 AI 領域的重磅人物——吳恩達(Andrew Ng),以及他最近分享的關於「生成式AI應用工程師 (GenAI Application Engineers)」的獨到見解。如果你對 AI 的未來、或是想成為炙手可熱的 AI 人才,那這篇文章你絕對不能錯過!
2025/06/15
今天TN科技筆記來跟各位聊聊一個在 AI 領域的重磅人物——吳恩達(Andrew Ng),以及他最近分享的關於「生成式AI應用工程師 (GenAI Application Engineers)」的獨到見解。如果你對 AI 的未來、或是想成為炙手可熱的 AI 人才,那這篇文章你絕對不能錯過!
2025/04/09
114.04.09【成績公告】114年第一次初級AI 應用規劃師能力鑑定開放考生查詢成績 我成功通過了~
Thumbnail
2025/04/09
114.04.09【成績公告】114年第一次初級AI 應用規劃師能力鑑定開放考生查詢成績 我成功通過了~
Thumbnail
2025/03/18
生成式 AI 在數位轉型中扮演關鍵角色,但導入前需充分了解其能力與限制,並建立完善的風險管理機制。
Thumbnail
2025/03/18
生成式 AI 在數位轉型中扮演關鍵角色,但導入前需充分了解其能力與限制,並建立完善的風險管理機制。
Thumbnail
看更多
你可能也想看
Thumbnail
常常被朋友問「哪裡買的?」嗎?透過蝦皮分潤計畫,把日常購物的分享多加一個步驟,就能轉換成現金回饋。門檻低、申請簡單,特別適合學生與上班族,讓零碎時間也能創造小確幸。
Thumbnail
常常被朋友問「哪裡買的?」嗎?透過蝦皮分潤計畫,把日常購物的分享多加一個步驟,就能轉換成現金回饋。門檻低、申請簡單,特別適合學生與上班族,讓零碎時間也能創造小確幸。
Thumbnail
嗨!歡迎來到 vocus vocus 方格子是台灣最大的內容創作與知識變現平台,並且計畫持續拓展東南亞等等國際市場。我們致力於打造讓創作者能夠自由發表、累積影響力並獲得實質收益的創作生態圈!「創作至上」是我們的核心價值,我們致力於透過平台功能與服務,賦予創作者更多的可能。 vocus 平台匯聚了
Thumbnail
嗨!歡迎來到 vocus vocus 方格子是台灣最大的內容創作與知識變現平台,並且計畫持續拓展東南亞等等國際市場。我們致力於打造讓創作者能夠自由發表、累積影響力並獲得實質收益的創作生態圈!「創作至上」是我們的核心價值,我們致力於透過平台功能與服務,賦予創作者更多的可能。 vocus 平台匯聚了
Thumbnail
我們人類和ChatGPT的對話技巧也是需要學習的,有鑑於此,我想要一天分享一點「和ChatGPT對話的技術」,並且每篇文章長度控制在三分鐘以內,讓大家不會壓力太大,但是又能夠每天成長一點。 我們在 AI說書 - Prompt Engineering - 67 | 多角色 Prompt 中闡述了
Thumbnail
我們人類和ChatGPT的對話技巧也是需要學習的,有鑑於此,我想要一天分享一點「和ChatGPT對話的技術」,並且每篇文章長度控制在三分鐘以內,讓大家不會壓力太大,但是又能夠每天成長一點。 我們在 AI說書 - Prompt Engineering - 67 | 多角色 Prompt 中闡述了
Thumbnail
我們人類和ChatGPT的對話技巧也是需要學習的,有鑑於此,我想要一天分享一點「和ChatGPT對話的技術」,並且每篇文章長度控制在三分鐘以內,讓大家不會壓力太大,但是又能夠每天成長一點。 我們把 AI說書 - Prompt Engineering - 55 和 AI說書 - Prompt E
Thumbnail
我們人類和ChatGPT的對話技巧也是需要學習的,有鑑於此,我想要一天分享一點「和ChatGPT對話的技術」,並且每篇文章長度控制在三分鐘以內,讓大家不會壓力太大,但是又能夠每天成長一點。 我們把 AI說書 - Prompt Engineering - 55 和 AI說書 - Prompt E
Thumbnail
這篇文章探討了使用 AI 撰寫文章的挑戰和解決方法。指令過於精準會讓 AI 的文章缺乏變化和個人風格。建議將 AI 當作導師,利用其提問能力來引導思考,而非直接撰寫內容。這種方法不僅能加速思考過程,還能提升文章品質。經過一年的嘗試,作者體會到 AI 從助手逐漸成為思考夥伴的重要性。
Thumbnail
這篇文章探討了使用 AI 撰寫文章的挑戰和解決方法。指令過於精準會讓 AI 的文章缺乏變化和個人風格。建議將 AI 當作導師,利用其提問能力來引導思考,而非直接撰寫內容。這種方法不僅能加速思考過程,還能提升文章品質。經過一年的嘗試,作者體會到 AI 從助手逐漸成為思考夥伴的重要性。
Thumbnail
我們人類和ChatGPT的對話技巧也是需要學習的,有鑑於此,我想要一天分享一點「和ChatGPT對話的技術」,並且每篇文章長度控制在三分鐘以內,讓大家不會壓力太大,但是又能夠每天成長一點。 Prompt Engineering 作為一門新興學科,與已建立的軟體工程領域有著驚人的相似之處,這種並
Thumbnail
我們人類和ChatGPT的對話技巧也是需要學習的,有鑑於此,我想要一天分享一點「和ChatGPT對話的技術」,並且每篇文章長度控制在三分鐘以內,讓大家不會壓力太大,但是又能夠每天成長一點。 Prompt Engineering 作為一門新興學科,與已建立的軟體工程領域有著驚人的相似之處,這種並
Thumbnail
我們人類和ChatGPT的對話技巧也是需要學習的,有鑑於此,我想要一天分享一點「和ChatGPT對話的技術」,並且每篇文章長度控制在三分鐘以內,讓大家不會壓力太大,但是又能夠每天成長一點。 回顧我們在AI說書 - Prompt Engineering - 13中,提及Prompt Engine
Thumbnail
我們人類和ChatGPT的對話技巧也是需要學習的,有鑑於此,我想要一天分享一點「和ChatGPT對話的技術」,並且每篇文章長度控制在三分鐘以內,讓大家不會壓力太大,但是又能夠每天成長一點。 回顧我們在AI說書 - Prompt Engineering - 13中,提及Prompt Engine
Thumbnail
我們人類和ChatGPT的對話技巧也是需要學習的,有鑑於此,我想要一天分享一點「和ChatGPT對話的技術」,並且每篇文章長度控制在三分鐘以內,讓大家不會壓力太大,但是又能夠每天成長一點。 Prompt Engineering 跨越了一個範圍:它涉及人工智慧科學家和工程師掌握的複雜技術;另一方
Thumbnail
我們人類和ChatGPT的對話技巧也是需要學習的,有鑑於此,我想要一天分享一點「和ChatGPT對話的技術」,並且每篇文章長度控制在三分鐘以內,讓大家不會壓力太大,但是又能夠每天成長一點。 Prompt Engineering 跨越了一個範圍:它涉及人工智慧科學家和工程師掌握的複雜技術;另一方
Thumbnail
我們人類和ChatGPT的對話技巧也是需要學習的,有鑑於此,我想要一天分享一點「和ChatGPT對話的技術」,並且每篇文章長度控制在三分鐘以內,讓大家不會壓力太大,但是又能夠每天成長一點。 針對Generative AI、Foundation Model、Large Language Mode
Thumbnail
我們人類和ChatGPT的對話技巧也是需要學習的,有鑑於此,我想要一天分享一點「和ChatGPT對話的技術」,並且每篇文章長度控制在三分鐘以內,讓大家不會壓力太大,但是又能夠每天成長一點。 針對Generative AI、Foundation Model、Large Language Mode
Thumbnail
我們人類和ChatGPT的對話技巧也是需要學習的,有鑑於此,我想要一天分享一點「和ChatGPT對話的技術」,並且每篇文章長度控制在三分鐘以內,讓大家不會壓力太大,但是又能夠每天成長一點。 在AI說書 - Prompt Engineering - 2中,我們已經以文字敘述各種AI的範疇與其思想
Thumbnail
我們人類和ChatGPT的對話技巧也是需要學習的,有鑑於此,我想要一天分享一點「和ChatGPT對話的技術」,並且每篇文章長度控制在三分鐘以內,讓大家不會壓力太大,但是又能夠每天成長一點。 在AI說書 - Prompt Engineering - 2中,我們已經以文字敘述各種AI的範疇與其思想
Thumbnail
這一節課說明,如何透過改變給模型的指示或咒語(prompt),來得到不同的結果 。如果直接說結論的話會是,在今天語言模型的能力之下,我們只要交代清楚任務就好,可以包括背景以及需求。而這節課很像是一堂模型咒語的歷史課 XD
Thumbnail
這一節課說明,如何透過改變給模型的指示或咒語(prompt),來得到不同的結果 。如果直接說結論的話會是,在今天語言模型的能力之下,我們只要交代清楚任務就好,可以包括背景以及需求。而這節課很像是一堂模型咒語的歷史課 XD
Thumbnail
給出好的指令也是一門學問! 我們在業界稱為「指令工程」(Prompt Engineering),OpenAI 官方也有公布指令工程的操作資訊,但是今天我們只要學會這樣的操作方式,你可以贏過現在多數的AI使用者。
Thumbnail
給出好的指令也是一門學問! 我們在業界稱為「指令工程」(Prompt Engineering),OpenAI 官方也有公布指令工程的操作資訊,但是今天我們只要學會這樣的操作方式,你可以贏過現在多數的AI使用者。
追蹤感興趣的內容從 Google News 追蹤更多 vocus 的最新精選內容追蹤 Google News