必備條件：生產環境中的代理人

將 LLM 代理人投入多使用者環境的生產環境，需要超越簡單示範，建立穩健的運營框架。未實施生產等級的控制，常會導致 API 金鑰外洩、惡意代理人產生的成本失控，以及在使用者群體中未被偵測的幻覺問題。

1. 模型控制

在應用程式碼與 LLM 供應商之間建立統一層是避免供應商鎖定、保持靈活性的關鍵。

對於複雜的代理系統而言，僅使用單一模型很少是最佳方案。不同任務需要不同模型的強項——例如，使用 Claude 進行工具呼叫、使用 Gemini 處理多模態任務，或使用微調的開源模型產生特定 JSON 輸出。統一的控制層提供以下主要好處：

• **快速切換：**模型供應商會快速棄用舊版。控制層讓團隊在不重寫核心應用程式碼的情況下切換模型。
• **安全性：**API 金鑰被抽象到單一安全位置，而非硬編碼於程式中。
• **配置管理：**團隊可從中心點管理模型選擇與區域配置。

2. 提示詞與提示詞註冊表

提示詞應被視為智慧財產與第二層程式碼，透過版本化的註冊表管理，而非直接寫在程式字串中。

因為提示詞往往決定結構化輸出的效能差異，它們需要專業的開發工作流程。提示詞註冊表可實現：

• **解耦合：**代理邏輯與提示詞文字分離，讓提示工程師可自行迭代，而不必牽涉軟體開發人員。
• **配置管理：**註冊表儲存完整配置，包括提示詞文字、模型選擇、溫度參數以及附加的防護措施。
• **迭代工作流程：**從 Playground 中的實驗，保存至註冊表，發布給代理，最後執行評估。

3. 防護欄桿

在任何代理與使用者互動前，必須實施輸入與輸出防護欄桿，以確保合規性、安全性與品牌安全。

防護欄桿應在多個掛鉤點實施：LLM 前、LLM 後、工具前、工具後。主要關注領域包括：

• **合規性：**刪除個人可識別資訊 (PII) 與受保護健康資訊 (PHI)，以符合法律要求。
• **輸入保護：**防止提示注入或駭客攻擊。
• **輸出過濾：**確保代理不使用粗俗語言或提及競爭對手。

4. 預算限制

必須設定嚴格的預算上限，以防止因無限迴圈或惡意流程產生的「噩夢帳單」。

LLM 行為本質上難以預測，程式錯誤很容易觸發無限的 API 呼叫。生產系統必須實施：

• **細粒度上限：**能夠為每個模型或每個專案設定每日預算上限（例如，$1,000/天）。
• **責任控制：**限制多位開發者與各種實驗性代理所帶來的財務風險。

5. 工具與 MCP 伺服器管理

對於代理使用的工具與模型上下文協定 (MCP) 伺服器，需要集中式驗證與細緻的權限管理。

隨著代理規模擴大至使用數十個 MCP 伺服器、API 與瀏覽器，安全管理變得相當複雜。生產環境的做法包括：

• **集中驗證：**代理先向閘道器驗證，閘道器再處理所有下游工具的安全與驗證。
• **權限控制：**對哪些代理能存取特定工具（尤其是會產生成本的計算或 API）實施細緻的控制。

6. 監控與追蹤

必須完整可見每一次請求、回應、錯誤與延遲峰值，以除錯代理的「黑箱」特性。

若缺乏詳細追蹤，無法判斷不良回應是因模型的 500 錯誤、工具提供了錯誤的上下文，或是 API 回應格式變更所致。有效的監控包括：

• **使用者旅程追蹤：**能追蹤單一使用者在代理邏輯中的路徑。
• **標準化日誌：**使用 OpenTelemetry 相容的追蹤，將資料匯出至 Datadog、New Relic 等系統。
• **預設可觀測性：**使用預設記錄所有流量的閘道器，避免手動為每一次呼叫加入儀表。

7. 評估 (Evals)

系統化的評估是唯一能衡量代理準確度、在影響使用者前捕捉回歸的方式。

評估必須在上線前與上線後皆執行：

• **上線前：**驗證系統行為符合預期。
• **上線後：**將先前的追蹤資料以較便宜的新模型重新跑，測試可行性，或偵測查詢失敗率隨時間上升的情況。
• **元件測試：**同時評估整體系統與單一元件，以判斷是提示詞需要更新，還是工具需要調整。

---

摘要： 要將 LLM 代理從示範階段推向生產環境，團隊必須實施七項關鍵控制：模型控制、提示詞註冊表、防護欄桿、預算限制、工具/MCP 安全、監控/追蹤，以及系統化評估。

標題： 必備條件：生產環境中的代理人