
於是,AI Agent使用工具的完整歷程:
- 接收工作任務
- 理解工作任務
- 檢視可用資源
- 配置適宜資源
- 整合所需資源
- 滿足需求、解決問題、完成任務或達成目標
每個工具都需要使用說明書,說明書描寫得好不好,會明顯地影響AI使用工具的成效結果。
工欲善其事,必先利其器。
AI Agent要如何選擇好用工具:
- 分類和索引
將工具按功能分類
- 資訊查詢--天氣、股市、新聞…
- 檔案管理--存取、讀寫、轉換…
- 程式執行--撰寫、測試、部署…
- 軟體操作--App…
- 通信聯絡--私訊、簡訊、電郵…
- ……
- 說明和闡釋
將工具使用說明書明確具體精簡地描述
- 工具作用及功能
- 要輸入什麼
- 會輸出什麼
- 應用場景是什麼
- 限制條件是什麼(避免誤用或濫用)
- 判斷和配置
根據需求、問題或任務整合適當的工具
- 動態隨選
- 按需載入
AI Agent使用工具,也會有風險發生:
- 錯誤操作--AI誤解意思,可能做出錯誤的動作,而這動作可能造成不可逆的結果。
- 安全危險--AI被誤用和濫用或者惡意利用或引誘做壞事,後果不堪設想。
- 連鎖反應--過程中一步走錯,後續一路錯到底。
AI Agent使用工具,應建立保護機制:
- 日誌記錄
- 確認核對
- 權限控管
- 逐步授權
- 沙盒環境
P.S. 沙盒(Sandbox)一詞源自於早期兒童玩耍的沙箱,意指在一個限制的範圍內可以不受拘束地自由創作與活動。在現代科技中,沙盒主要應用於電腦安全、軟體開發及電子遊戲三大領域。在資訊安全領域,沙盒是指一個隔離的執行環境。它允許程式在不影響主機作業系統或真實資料的情況下運作,常用於測試不受信任的程式碼或抵禦惡意軟體。



















