Michael Agent Lab
教學筆記

可正式上線的 AI/代理工程

AI 能做,不代表可以放心上線。

真正的正式環境,不靠「相信模型」。它靠清楚的規格、能限制損害的邊界,以及可重複驗證的證據。

能力回答「做不做得到」;工程回答「敢不敢交付」。
01/關卡

正式環境前,先過三道關卡

這三道關卡分別處理不同風險。規格 避免 AI 猜錯方向,安全邊界限制錯誤的破壞範圍,評估 則確認成果是否真的值得發布。

01

把話講清楚

把意圖、背景、工具、禁區與完成標準寫進可審查的 規格。

成果 · 方向
02

把邊界設好

預設 代理 可能犯錯,用隔離、權限與人工 檢查點 限制後果。

成果 · 範圍控制
03

把驗收做好

留下可觀測證據,依客觀標準判斷功能、品質與風險是否可接受。

成果 · 證據
02/明定規格

規格 的任務,是讓 AI 沒有必要猜

好的 規格 不必很長,但至少要回答五個問題。它也是團隊與 AI 共用的意圖來源,需求改變時先改 規格,再改實作。

01

做什麼

要解決的需求與可交付成果。

02

為什麼做

使用者、情境與真正目的。

03

用什麼做

允許的工具、框架、版本與來源。

04

什麼不能碰

資料、環境、權限與明確禁區。

05

什麼叫做完

可觀察、可重複的驗收標準。

03/限制範圍

安全設計不是要求 AI 永遠不犯錯

比較可靠的思路,是先假設錯誤一定會發生,再讓錯誤停在可承受的範圍內。高風險動作不能只靠提示詞提醒。

01

隔離執行

讓不受信任的程式在可丟棄的 隔離環境 或測試環境中執行,不能直接碰正式資料與主機。

Evidence · 隔離範圍
02

風險式簽核

部署、資料庫變更、付費與不可逆操作必須停下來。簽核前先提供人看得懂的意圖與變更摘要。

證據 · 差異與計畫
03

供應鏈控管

依賴套件只從可信來源取得,鎖定版本,確認名稱與維護狀態,並在 CI 中執行安全掃描。

證據 · 鎖定檔與掃描
04/區分

沒有越界,不等於做得正確

安全性 與 評估 是兩條不同的判斷線。只做其中一條,都不足以決定成果是否能進正式環境。

安全

代理 有沒有做不該做的事?

  • 是否碰到未授權資料或環境
  • 是否執行不可逆或高風險動作
  • 是否引入可疑依賴或洩漏敏感資訊
通過代表:錯誤被限制在邊界內。

評估

代理 做出來的東西值不值得交付?

  • 功能是否符合原始意圖與驗收條件
  • 使用者實際看到的結果是否正確
  • 品質是否穩定,而且能重複驗證
通過代表:成果有足夠證據可以發布。
05/評估

先看得見,才有辦法驗收

可觀測性把對話、工具呼叫、狀態與結果留成證據。驗收則用這些證據判斷 代理 是否偏題、是否收斂,以及錯誤是否反覆出現。

01

保存原始任務

每個步驟都回頭對照最初要求,檢查是否越做越偏。

02

驗成品,不只驗程式

網頁就實際操作桌面與手機;報表就讀結果與數字,而不只看 程式碼。

03

看是否收斂

記錄修改幾輪才達標。反覆修不好的任務,是最值得研究的失敗樣本。

04

保存每次糾正

把「不對、不是這樣」轉成測試案例、規則或新版 規格,形成可重用的防錯資料。

06/審查

AI 加速產出後,瓶頸會移到 審核

如果每個小動作都要求人按同意,人很快會失去注意力。更好的分工,是讓自動檢查處理日常證據,把人的判斷留給架構、風險與不可逆決策。

機器

自動檢查

格式、測試、依賴、漏洞、權限與既定驗收條件。

→
人員

高價值判斷

需求是否合理、架構取捨、風險承受度與是否值得發布。

→
合併

條件式批准

人的方向批准,加上自動化證據全部通過,才允許進入下一階段。

07/應用

下一個功能,就從這張清單開始

不需要一次建立完整平台。先對下一個真實功能補齊三道關卡,再把失敗案例逐步寫回流程。

  • 先寫一份至少回答五個問題的 規格。
  • 用 Given / When / Then 定義成功與失敗情境。
  • 把正式環境、資料庫與金流列為明確禁區。
  • 讓程式在隔離環境中執行,並限制權限。
  • 高風險動作前提供白話變更摘要與人工 檢查點。
  • 驗收實際成品,保存每次糾正作為下一輪測試。

來源與延伸閱讀