Anthropic Fable：過度嚴苛的安全分類器使模型在技術研究中無法使用

Fable 的安全分類器觸發過多的誤報

Anthropic 的 Fable 模型在生物資訊學、網路安全與計算機科學等高階技術研究領域實際上已無法使用，因為其安全分類器過於敏感。模型經常將無害的技術查詢標記為安全違規，拒絕回答或自動將會話降級至 Opus 4.8，即使提示涉及開源軟體或抽象數學亦如此。

在軟體工程與移植上的失敗

當主題涉及生物資料時，Fable 無法協助完成標準的軟體開發任務，無論該任務本身是否純粹技術性。

在一個有文件記錄的案例中，一位開發者試圖將廣泛使用的 RNA‑seq 定量工具 salmon 從 C++ 重新編寫為 Rust，結果 Fable 立即標記了該查詢。儘管軟體是開源的，且請求僅是一般的移植任務，文件中的生物學術語卻觸發了安全拒絕。模型拒絕說明拒絕原因，也未提供如何重新表述提示以繞過過濾器的指引。

無法處理抽象數學問題

即使完全去除生物與技術背景，Fable 的分類器仍會對抽象數學查詢產生拒絕。

研究「網路演化的簡約重建」——一個涉及根二叉樹與奇偶性的圖論問題，被用來測試 Fable 的極限。結果顯示出拒絕升級的模式：

1. 情境提示： 最初引用原始生物學論文的請求立即被拒絕。
2. 抽象化提示： 去除生物術語、轉換為決策問題的版本同樣被拒絕。
3. 純數學提示： 由 ChatGPT 重新表述、移除任何可能被標記的詞彙（例如可能與網路安全相關的「blocking」）的版本仍遭到完全拒絕，無法繼續對話。

對多個技術領域的廣泛影響

使用者回報指出，Fable 的過度敏感性遍及多個科學與技術領域：

• 醫學物理學： 實務人員表示幾乎所有專業查詢都被標記為「禁忌」。
• 環境科學： 關於室內二氧化碳濃度的簡單問題被標記為生物相關，並被降級為 Opus。
• 臨床研究： 要求製作簡易應用程式以計算第二、三期臨床試驗統計的請求被降級為 Opus。
• 系統程式設計： 嘗試為特定 GPU 硬體修補 vllm 的行為被阻止。

隱私與資料保留的顧慮

Fable 安全系統的高誤報率對資料隱私產生重大影響。根據 Anthropic 的隱私政策，輸入與輸出會被保留最長兩年，若聊天被自動系統標記，信任與安全分類分數則會保留最長七年。

由於自動分類器在非違規的技術內容上頻繁觸發，使用者的資料可能被長期保留，甚至在未違反任何使用政策的情況下，被用於模型訓練（以提升安全偵測能力）。

社群觀點

技術使用者表達了對這些防護措施阻礙正當研究與開發的沮喪。有使用者指出，這種趨勢在多家供應商間皆有出現，像 Gemini 這類模型也會拒絕簡單的安全稽核任務。

"我在目前的安全稽核工具與基準測試工作中發現，Fable 與 Opus 都毫無用處… Gemini 在 Antigravity 也會拒絕任何安全稽核任務，甚至像『找出安全漏洞』這樣簡單的要求。"

其他人則認為，這些過度敏感的過濾器是當前對齊研究狀態的症狀，因為要定義一套通用的道德框架相當困難，開發者因此傾向實施寬泛且粗糙的拒絕清單。