OpenAI董事會成立安全與安保委員會

OpenAI已成立安全與安保委員會，以監督其專案與營運中的關鍵安全與安保決策。此舉正值公司開始訓練其下一個前沿模型之際，OpenAI預期該模型將在通往通用人工智慧（AGI）的路徑上顯著提升能力。

委員會組成與領導層

安全與安保委員會由OpenAI董事Bret Taylor（主席）、Adam D’Angelo、Nicole Seligman以及執行長Sam Altman領導。為確保技術深度，委員會還包括以下技術與政策專家：

• Aleksander Madry：準備工作主管
• Lilian Weng：安全系統主管
• 對齊科學主管：John Schulman
• Matt Knight：安全主管
• 首席科學家：Jakub Pachocki

此外，退休的美國陸軍將軍Paul M. Nakasone在被任命為董事會成員後，已加入委員會。委員會亦將諮詢外部專家，包括前資安官員Rob Joyce與John Carlin。

立即目標與90天審查

安全與安保委員會的主要責任是就關鍵安全與安保決策向全體董事會提出建議。

其首項重大任務是於90天內評估並進一步發展OpenAI現有的流程與防護措施。於此期間結束時，委員會將向全體董事會提交其建議。經董事會審查後，OpenAI承諾在符合安全與安保要求的前提下，公開分享已採納建議的最新情況。

前沿模型開發的背景

OpenAI表示，其下一個前沿模型的訓練目前正進行中。公司描述這些產生的系統預期將使組織在通往AGI的路徑上達到更高層次的能力。雖然OpenAI堅稱其模型在能力與安全性方面皆屬業界領先，但公司明確歡迎在此開發階段就安全與安保展開「深入討論」。