Anthropic 與 Mozilla 合作:Claude Opus 4.6 Firefox 安全發現

Anthropic 與 Mozilla 已達成合作,旨在展示 AI 模型可以獨立識別複雜軟體中的高嚴重性漏洞。透過使用 Claude Opus 4.6,Anthropic 在兩週內於 Firefox 瀏覽器中發現了 22 個漏洞,其中 14 個被 Mozilla 分類為高嚴重性——這代表了 2025 年修復的所有 Firefox 高嚴重性漏洞中,將近五分之一的數量。

AI 驅動的 Firefox 漏洞發現

Claude Opus 4.6 展示了以加速速度檢測嚴重安全缺陷的能力,其在 2026 年 2 月發現的漏洞數量,比 2025 年任何單一月份從所有來源報告的漏洞總數還要多。

方法論與流程

Anthropic 從使用 CyberGym 等基準測試轉向對 Firefox 程式碼庫進行測試,原因是其複雜性與高安全標準。該流程演進為三個階段:

  1. 歷史重現:Claude 首先在舊版 Firefox 中重現了先前已識別的常見漏洞與披露 (CVEs)。
  2. 新穎發現:模型被要求在當前版本的 Firefox 中尋找新漏洞,並從 JavaScript 引擎開始,因為其隔離性質與龐大的攻擊面。
  3. 大量報告:在驗證了一個初始的 Use After Free 記憶體漏洞後,Anthropic 向 Mozilla 提交了 112 份獨特的報告,涵蓋了將近 6,000 個 C++ 檔案。

大多數問題已在 Firefox 148.0 中修復。

漏洞利用能力 vs. 發現能力

為了測試模型的極限,Anthropic 評估了 Claude Opus 4.6 是否能為其發現的漏洞開發漏洞利用程式 (exploits)。目標是觀察模型是否能執行真實攻擊,例如讀取或寫入目標系統上的本地檔案。

漏洞利用的關鍵發現

  • 低成功率:儘管進行了數百次嘗試並消耗了約 $4,000 美元的 API 額度,Opus 4.6 僅在兩個案例中成功創建了漏洞利用程式。
  • 發現優勢:識別漏洞的成本與難度比創建漏洞利用程式的成本低了一個數量級。
  • 環境限制:成功的漏洞利用程式是「粗糙的」,且僅在移除了現代瀏覽器安全功能(特別是沙盒機制)的測試環境中有效。Firefox 的「縱深防禦」機制將會減緩這些特定的攻擊。

AI 賦能安全技術的最佳實踐

Anthropic 識別了幾種程序與技術方法,以改善防禦者的「尋找與修復」流程。

任務驗證者的角色

Claude 在與「任務驗證者」搭配使用時表現最為出色,這是一種能向 AI 代理提供即時回饋的受信任工具。對於修補漏洞,這些驗證者可確保兩個關鍵屬性:

  1. 漏洞移除:確認原始漏洞不再能被觸發。
  2. 回歸測試防止:執行測試套件以確保預期的功能得以保留。

維護者的提交標準

為了減輕軟體維護者的負擔,Anthropic 建議 AI 驅動的報告應包含三個特定組件,以確保信任與可驗證性:

  • 最簡測試案例
  • 詳細的漏洞驗證概念 (proofs-of-concept)
  • 候選修補程式

對網路安全學術界與產業的影響

尖端模型現在已具備世界級的漏洞研究能力,Claude Opus 4.6 同時也在 Linux kernel 中發現了缺陷。雖然目前存在著模型在尋找與修復漏洞方面優於漏洞利用方面的差距,但 Anthropic 警告這段窗口期很可能只是暫時的。

隨著發現與漏洞利用之間的差距縮小,將需要額外的防護措施來防止惡意行為者的濫用。Anthropic 正透過發布 Claude Code Security 的有限研究預覽版,並遵循協調漏洞披露 (CVD) 流程,來擴大其網路安全工作。

Sources

相關