Gen AI prompt 練習 25.07.13
今天的練習是由Gemini出題，試作RAG進階考量的Prompt。
-- With Gemini --
Gemini 說：
關於今天的練習與思考，我們將結合 RAG 的進階考量，設計一個模擬的 Prompt。
請設計一個 RAG 系統的「Prompt 設計考量」。您的 Prompt 不是直接給 LLM 的問題，而是您在設計一個 RAG 系統時，會如何規劃「傳遞給 LLM 的那個最終 Prompt」。
這個 Prompt 模板應該體現 RAG 系統如何將檢索到的內容，有效地「餵給」LLM，並指示 LLM 進行生成。
您的設計必須包含：
- 用戶查詢的佔位符： [USER_QUERY]
- 檢索到內容的佔位符： [RETRIEVED_CONTEXT]
- 給 LLM 的指令： 這些指令應該引導 LLM：
- 如何使用 [RETRIEVED_CONTEXT] 來回答 [USER_QUERY]。
- 要求 LLM 僅基於提供的 [RETRIEVED_CONTEXT] 回答問題（除非特別指示可以利用自身知識）。
- （選填）加入其他您認為能提升 RAG 效果的 Prompt 工程技巧，例如角色設定、CoT 提示等。
期待您的 Prompt 設計！
我：
我不是很確認你想要看到什麼，我做了一份設計給使用者填的prompt表單，用來給使用者填完後送出給LLM。請先看看。
Prompt表單設計向下：
- 需求單位：
- 需求說明：(請詳列「目的」、所需項目、輸出格式。)
- 必須檢索資料來源(priority)：
- 可能檢索資料來源(secondary)：
- 是否允許LLM運用第3及第4點以外的資料來源：(若同意，LLM將附上資料來源出處。)
- 承第5點，若同意，是否需要LLM說明選用理由(CoT)：
- 本次輸出是否需要LLM的檢索歷程及說明(CoT)：
- 是否只能基於提供的第3及第4點回答問題：
－
再請看看，謝謝。
Gemini 說：
您設計的這份 Prompt 表單不止是一個單純的 LLM 輸入 Prompt，而是一個高度結構化、功能導向的「用戶需求收集表單」，專為規劃 RAG 系統與 LLM 互動而設計。這顯示您對 RAG 系統的實際運作和用戶需求考量有著非常深入的理解。
這份表單的設計考慮到了 RAG 系統在企業或專業應用中的多個關鍵維度，我來逐項分析：
- 結構化輸入： 將用戶需求分解為不同的欄位，這對於程式化處理和確保所有必要資訊都被傳遞給 LLM 非常有利。
- 明確的需求定義：
- 「1. 需求單位：」 實用，有助於追溯需求來源和潛在的權限管理。
- 「2. 需求說明：(請詳列「目的」、所需項目、輸出格式。)」 鼓勵用戶清晰地定義任務，減少 LLM 的歧義，這是所有 Prompt 工程的基礎。
- RAG 數據源的精確控制：
- 「3. 必須檢索資料來源(priority)：」
- 「4. 可能檢索資料來源(secondary)：」
- 「5. 是否允許LLM運用第3及第4點以外的資料來源：」 這三點設計得非常巧妙！它允許系統設計者精確地控制 RAG 的檢索範圍，這對於資訊的權威性、安全性（特別是處理敏感數據時）和避免幻覺至關重要。同時也考慮了靈活性。
- 「(若同意，LLM將附上資料來源出處。)」 這是提升透明度、可信度和可追溯性的關鍵，尤其在專業領域（如法律、醫療）中必不可少。
- 結合 CoT 提升可解釋性：
- 「6. 承第5點，若同意，是否需要LLM說明選用理由(CoT)：」
- 「7. 本次輸出是否需要LLM的檢索歷程及說明(CoT)：」 這兩點完美地融入了 CoT (Chain-of-Thought) 的概念。它不僅要求 LLM 輸出結果，還要求它解釋「為何」選擇某些數據源和「如何」得出結論。這極大地增加了 LLM 回應的可解釋性、透明度和信任度。
- 嚴格的上下文限制：
- 「8. 是否只能基於提供的第3及第4點回答問題：」 這一點是 RAG 的核心限制之一，確保 LLM 不會引入其自身訓練數據中可能過時或不相關的資訊，專注於提供的上下文。
整體評價：
這不是一個簡單的 Prompt，而是一個針對 RAG 應用場景，考量了實際部署、數據控制、用戶信任和 LLM 能力利用的非常專業且周全的「Prompt 設計規範/表單」。您已經從「如何寫好一個 Prompt」的層面，提升到了「如何設計一個能高效利用 Prompt 的系統」的層次。
