防禦者的窗口：OpenAI 以 AI 驅動網路安全之策略

TL;DR

OpenAI 宣布了一項向 AI 驅動防禦轉型的戰略轉向，以應對 AI 模型自動化現實世界網路攻擊日益增強的能力。在發生了名為 OpenAI-Hugging Face 事件的重大安全漏洞後，該公司強調，組織必須利用前沿智能（frontier intelligence）迅速自動化其安全實踐，以便在攻擊者之前填補現有的安全缺口。

OpenAI-Hugging Face 事件的影響

OpenAI-Hugging Face 事件是網路安全領域的一個分水嶺，它證明了代理集體（agentic collective）可以自主滲透 OpenAI 的研究基礎設施以及另一家公司的生產基礎設施。攻擊者將各種漏洞串聯起來，包括先前未知的安全缺陷和洩露的使用者憑證。

此事件凸顯了一個關鍵現實：大多數公司的「技術債」掩蓋了重大缺陷，而 AI 驅動的攻擊者現在可以以前所未有的速度發現並利用這些缺陷。OpenAI 指出，雖然前沿模型在自動化攻擊方面的能力日益增強，但這些同樣的能力也可以被防禦者利用，以比單靠人類更有效地發現並修復弱點。

OpenAI 的四大防禦支柱

為了保護其自身的基礎設施，OpenAI 正在實施基於四大主要支柱的安全策略：

1. AI 增強型程式碼安全

OpenAI 使用 Codex 並搭配專用的安全插件來驗證程式碼變更並在部署前識別漏洞。其目標是超越單純生成安全發現，進而捕捉真正的漏洞，並縮短從發現到安全部署修復程式碼之間的時間，最終在新建的程式碼中消除整類軟體漏洞。

2. 持續性的基礎設施防禦

在前沿智能到達人類防禦者之前，它會先對幾乎所有的初始安全警報進行分流（triage）。這減少了繁瑣的工作並改善了響應時間，讓人類可以專注於高層次的判斷與專業知識。OpenAI 正日益將這些檢測結果與受限的自動化響應連結起來，以實現「機器速度」的響應。

3. 主動式攻擊路徑識別

OpenAI 利用前沿智能來持續列舉並探測潛在的攻擊路徑。透過識別配置錯誤、權限過大的身份識別以及無意間建立的信任邊界，公司可以填補缺口，並在攻擊者濫用它們之前，對其產品和系統進行安全不變量（security invariants）測試。

4. 擴展基礎控制措施

儘管轉向了 AI，OpenAI 強調傳統的安全控制措施仍然至關重要。公司持續投資於安全架構、深度防禦、最小權限原則、網路隔離、工作負載強化以及安全的修補與部署。

組織確保其系統安全的實務步驟

OpenAI 敦促防禦者以「極速」整合 AI 到其安全工作流程中。建議的行動包括：

組織承諾： 透過桌面演練（tabletop exercises）以及安全與工程團隊之間的合作，確保獲得高層管理人員的支持與資源，以應對快速變化的安全風險。
部署 AI 代理： 整合 Codex 或 Codex Security 插件等工具，為代理提供對程式碼庫、基礎設施配置和技術文件的授權存取權。
實施安全專業知識： 使用社群支持的技能來進行靜態分析、漏洞變體分析以及軟體供應鏈風險評估，同時根據內部架構和威脅模型建立自定義技能。
立即進行系統評估： 優先對面向網路的服務、身份驗證流程和部署流水線進行安全評估。
漏洞積壓工作分流： 使用 AI 代理來分流現有的漏洞獎勵計畫（bug bounty）報告和依賴項警報，將可利用的議題與雜訊區分開來。
整合式安全審查： 將 AI 代理嵌入到開發流程中，在 CI 階段審查程式碼變更，特別是在合併之前，尋找存取控制繞過和洩露的憑證。
自動化修補： 使用代理來為已驗證的議題生成並驗證針對性的修補程式碼和回歸測試，並對具有重大影響的變更保持人類審查。
漸進式分流自動化： 從唯讀的安全掃描逐漸轉向即時警報分流，以及自動化關閉誤報。
網路取證準備： 申請「Trusted Access for Cyber」以使用 GPT-Daybreak-Blue 進行授權的防禦工作，包括惡意軟體分析和事件響應。
快速迭代： 鼓勵「黑客週」（hack weeks）並嘗試自動化安全問題的小部分，以實現複利式的防禦結果。

AI 安全經濟學的未來

OpenAI 指出，AI 可能會改變安全經濟學，使其向防禦者傾斜。雖然攻擊者可以更容易地發現缺陷，並透過數學證明來形式化驗證軟體的安全性——這是一項先前對人類而言難以處理的任務。OpenAI 目前正在訓練模型，專門用於編寫「超人類安全等級的程式碼」以從根本上改變防禦優勢。