OpenAI: 提升 AI 開發中的可驗證性

OpenAI 與來自各學術與產業機構的研究者聯盟提出了一個框架，以提升 AI 開發的可驗證性。該計畫旨在為利益相關者（包括使用者、監管機構與學術界）提供手段，以驗證 AI 系統是否真正反映開發者所宣稱的倫理原則與安全主張。

AI 開發中的可驗證性差距

AI 組織所闡述的倫理原則與外部利益相關者在實際中驗證那些原則的能力之間存在顯著差距。這種透明度不足會導致數種系統性風險：

• 社會危害增加： 對系統特性的模糊不清使潛在風險可能被忽視或未得到處理。
• 競爭性削角： 缺乏外部驗證時，開發者可能被激勵犧牲安全或倫理最佳實踐，以獲取競爭優勢。
• 利益相關者不確定性： 使用者、政策制定者與公民社會缺乏工具來審查關於隱私、安全與風險的主張。

關鍵利益相關者關切

該框架針對利益相關者在與 AI 系統互動時面臨的具體問題提供了解決方案：

• 使用者隱私： 使用者需要驗證在使用 AI 進行敏感任務（例如機器翻譯）時，所保證的隱私保護程度的主張。
• 監管監督： 監管機構需要具備追蹤導致事故的步驟（例如自動駕駛車輛）的能力，並建立標準，以便對安全主張進行測量。
• 學術研究： 獨立研究者常常缺乏產業所擁有的運算資源，這阻礙了他們對大規模 AI 系統風險進行公正研究的能力。
• 開發者問責： AI 開發者需要確信，競爭者正在遵循最佳實踐，而非透過削角來加快部署。

驗證的提出機制

為彌合可驗證性差距，該報告指出十種機制，旨在協助利益相關者驗證 AI 主張。儘管完整的技術討論與注意事項詳見隨附的研究論文，但這些機制旨在提供一種結構化方法，使 AI 開發對社會其餘部分更具透明度與問責性。