優化 AI 工程:從 Claude Code 的事後檢討法入手

Anthropic 最近的事後檢討(postmortem)揭示了為了改善延遲而暫時降低 Claude 預設推理能力的決定——該決定隨後在公眾監督下被撤回——這促使開發者重新評估與 AI 編碼助手互動的方式。此事件凸顯了一個關鍵的潛在緊張關係:AI 驅動開發中成本、速度與品質之間的平衡。與其僅將 token 成本視為上限,若將 AI 視為工程團隊的延伸,則會出現一個更有效的視角,將重點轉向成本/產出/品質的優化,這與傳統的招聘決策非常相似。

這種範式轉移鼓勵一種審慎利用 AI 能力的方法,並意識到投資於更高品質的產出最終可以帶來更高的效率並減少技術債。關鍵在於有意識地運用正確的槓桿——模型選擇、配置、提示詞(prompting)以及代理(agent)編排——以達成預期的結果。

策略性模型選擇

為當前任務選擇正確的 AI 模型是至關重要的。正如不同的工程師擁有不同的專業知識,不同的 AI 模型在特定領域也各有所長:

  • Opus: 對於關鍵決策、架構推理以及需要深度理解與穩健解決方案的任務,Opus 仍是最強大的選擇。其較高的成本可由其卓越的分析能力來證明。
  • Sonnet: 對於例行性的編碼、簡單的重複性任務或快速編輯,Sonnet 通常能以較低的成本提供充足的品質。重點在於將工具的能力與任務的複雜度相匹配。

在關鍵工作中對模型投入不足,不可避免地會導致品質受損,進而需要更多的人力介入,並可能產生更高的總體成本。

透過努力程度進行審慎配置

除了模型選擇之外,配置 AI 的推理努力程度(reasoning effort)是一個強大但常被忽視的槓桿。Anthropic 的 /effort 設定(其中 Opus 4.7 的預設值為 xhigh)允許進行細粒度的控制:

  • 對於架構決策或複雜的問題解決,將努力程度設定為 max 可確保模型投入充足的計算資源進行推理。
  • 對於微小的編輯或簡單的任務,較低的努力程度可以節省 token,且不會顯著影響結果。

這種對努力程度的審慎調整是無需更換模型本身,就能影響產出品質最便宜且最直接的方式,確保資源能根據任務需求進行適當分配。

有效的提示詞策略

提示工程(prompt engineering)已超越了簡單的指令,進而轉向塑造 AI 的問題解決方法。以下三種模式已被證明特別有效:

  1. "Ask questions if unsure.": 此指令可防止模型在存在歧義時強行提供次優的解決方案。它鼓勵 AI 揭示不確定性與潛在的權衡,從而產生更穩健且具備上下文意識的產出出。
  2. "Time and cost are not factors here. Prefer robust, sustainable, scalable solutions, do not leave tech debt.": 此提示詞反轉了通常導致快速但脆弱解決方案的隱含優化壓力。透過明確地優先考慮穩健性與永續性,開發者可以引導 AI 朝向更高品質、長期可行的代碼。
  3. "Reflect on this session and encode via claude.md or skills what you learned, so the next iteration doesn't repeat the same mistakes.": 此元提示詞(meta-prompt)鼓勵 AI 從其互動中學習,有效地建立個人化的知識庫或

Sources