把話講清楚
把意圖、背景、工具、禁區與完成標準寫進可審查的 規格。
可正式上線的 AI/代理工程
真正的正式環境,不靠「相信模型」。它靠清楚的規格、能限制損害的邊界,以及可重複驗證的證據。
這三道關卡分別處理不同風險。規格 避免 AI 猜錯方向,安全邊界限制錯誤的破壞範圍,評估 則確認成果是否真的值得發布。
把意圖、背景、工具、禁區與完成標準寫進可審查的 規格。
預設 代理 可能犯錯,用隔離、權限與人工 檢查點 限制後果。
留下可觀測證據,依客觀標準判斷功能、品質與風險是否可接受。
好的 規格 不必很長,但至少要回答五個問題。它也是團隊與 AI 共用的意圖來源,需求改變時先改 規格,再改實作。
要解決的需求與可交付成果。
使用者、情境與真正目的。
允許的工具、框架、版本與來源。
資料、環境、權限與明確禁區。
可觀察、可重複的驗收標準。
比較可靠的思路,是先假設錯誤一定會發生,再讓錯誤停在可承受的範圍內。高風險動作不能只靠提示詞提醒。
讓不受信任的程式在可丟棄的 隔離環境 或測試環境中執行,不能直接碰正式資料與主機。
部署、資料庫變更、付費與不可逆操作必須停下來。簽核前先提供人看得懂的意圖與變更摘要。
依賴套件只從可信來源取得,鎖定版本,確認名稱與維護狀態,並在 CI 中執行安全掃描。
安全性 與 評估 是兩條不同的判斷線。只做其中一條,都不足以決定成果是否能進正式環境。
代理 有沒有做不該做的事?
代理 做出來的東西值不值得交付?
可觀測性把對話、工具呼叫、狀態與結果留成證據。驗收則用這些證據判斷 代理 是否偏題、是否收斂,以及錯誤是否反覆出現。
每個步驟都回頭對照最初要求,檢查是否越做越偏。
網頁就實際操作桌面與手機;報表就讀結果與數字,而不只看 程式碼。
記錄修改幾輪才達標。反覆修不好的任務,是最值得研究的失敗樣本。
把「不對、不是這樣」轉成測試案例、規則或新版 規格,形成可重用的防錯資料。
如果每個小動作都要求人按同意,人很快會失去注意力。更好的分工,是讓自動檢查處理日常證據,把人的判斷留給架構、風險與不可逆決策。
格式、測試、依賴、漏洞、權限與既定驗收條件。
需求是否合理、架構取捨、風險承受度與是否值得發布。
人的方向批准,加上自動化證據全部通過,才允許進入下一階段。
不需要一次建立完整平台。先對下一個真實功能補齊三道關卡,再把失敗案例逐步寫回流程。