OpenAI 為未來生物領域的 AI 風險做準備
OpenAI 宣布了一項全面的策略，以減輕與前沿 AI 模型相關的生物風險。隨著這些模型在生物學方面接近「高」水平的能力——根據 OpenAI 的備援框架定義——公司正實施多層防禦系統，以防止 AI 被濫用於製造生物武器或重現生物威脅，同時持續支持合法的科學發現。
主動緩解與專家合作
OpenAI 採取以預防為先的生物風險方法，專注於在威脅事件發生前限制對有害能力的存取。此策略高度依賴與外部領域專家及政府機構的合作，以識別漏洞並加強系統。
- 專家諮詢： OpenAI 已與生物安全、生物武器與生物恐怖主義專家，以及學術研究人員合作，塑造其威脅模型、能力評估與使用政策。
- 政府夥伴關係： 公司正與美國 CAISI 及英國 AISI 合作，並與洛斯阿拉莫斯國家實驗室合作，研究 AI 在濕實驗室環境中的角色。
- 驗證： 具生物學博士或碩士學位的人類訓練師被用來建立與驗證評估資料，以確保安全評估的準確性。
生物風險的技術安全措施
為防止 AI 被濫用於生物武器化，OpenAI 在其產品介面上部署了多項技術控制：
模型訓練與回應過濾
OpenAI 訓練其模型拒絕明確有害的請求或那些可能促成生物武器化的請求。對於雙重用途的請求——例如涉及基因工程、免疫學或病毒學的請求——模型遵循模型規範，避免提供可操作的、逐步的指導或濕實驗室故障排除建議。目標是為專家提供高層次的見解，同時不透露讓新手濫用系統的細節。
偵測與執行
- 持續監控： 系統範圍的監控器會偵測風險或可疑的生物相關活動。如果請求被標記為不安全，回應將被阻止，並觸發自動審查，可能導致人工審查。
- 政策執行： OpenAI 禁止使用其產品造成傷害。濫用可能導致帳號暫停，且在嚴重情況下，會通知執法機關。
紅隊測試與安全控制
- 端對端紅隊測試： OpenAI 將生物領域專家與經驗豐富的紅隊成員配對，模擬高階對手並找出安全系統的缺口。
- 權重保護： 採用深度防禦方法保護模型權重免於外洩，結合存取控制、基礎設施加固、外流控制與監控，並由內部風險計畫支援。
未來生物安全倡議
OpenAI 認識到僅保護單一模型不足以應對，並倡導更廣泛的生物防禦生態系統。
生物防禦與審核存取
在七月，OpenAI 將舉辦生物防禦高峰會，邀請政府研究人員與非政府組織，探討前沿模型如何加速對策與新療法的開發。此外，公司正制定協議，允許經審核的機構存取更高能力的模型，以推進生物科學。
系統性生物防禦
OpenAI 建議公私部門合作，加強 AI 模型之外的生物防禦，包括：
- 加強核酸合成篩檢。
- 更健全的新興病原體早期偵測系統。
- 強化基礎設施以抵禦生物威脅。
- 投資生物安全創新與使命驅動的創業公司，以確保長期韌性。