OpenAI の安全性とセキュリティ実践の更新

OpenAIは、モデルの開発と展開における重要な安全性とセキュリティ対策を統括する独立した取締役会監督委員会を設置しました。

OpenAI の安全性とセキュリティ実践の更新

OpenAIは、Safety and Security Committee（SSC）を独立した取締役会監督委員会に移行し、モデルの開発および展開時の重要な安全性とセキュリティ対策を統括しています。この措置により、モデルのリリースに対する独立した監督の正式な仕組みが確立され、安全上の懸念が解消されるまでリリースを遅らせる権限が含まれます。

独立したガバナンスと取締役会の監督

Safety and Security Committeeは、今後独立した取締役会監督委員会として機能します。Carnegie Mellon Universityの機械学習部門ディレクターであるZico Kolterが議長を務め、委員会にはAdam D’Angelo（Quora CEO）、退役米軍将軍Paul Nakasone、そしてNicole Seligman（元Sony株式会社 EVP兼最高法務責任者）が含まれます。

委員会の主な責任は以下の通りです：

• Model Launch Oversight: 委員会と全取締役会はモデルのリリースを監督します。安全上の懸念が解決されない場合、リリースを遅らせる権限があります。
• Technical Briefings: 会社のリーダーシップは主要なモデルリリースに対する安全性評価を委員会に提供します。委員会は現在および将来のモデルに関する技術評価とリリース後のモニタリングに関する定期的な報告を受け取ります。
• Operational Engagement: 委員会はOpenAI内部の安全・セキュリティチームと定期的に連携します。

強化されたサイバーセキュリティ対策

OpenAIは、先進的なAI研究と製品インフラを保護するために、リスクベースのサイバーセキュリティアプローチを採用しています。現在の取り組みは以下の通りです：

• Infrastructure Security: 社内情報のセグメンテーションを拡大し、24時間体制のセキュリティ運用チームの人員を増強しています。
• Industry Collaboration: AI業界向けの情報共有・分析センター（ISAC）設立を検討し、AI組織間で脅威インテリジェンスやサイバーセキュリティ情報の共有を促進します。

透明性と外部協力

OpenAIは、以下の手段を通じて透明性の取り組みと安全システムの第三者検証を拡大しています：

透明性レポート

OpenAIは、GPT-4oやo1-previewなどのモデルに関するシステムカードの公開を継続しており、これらには機能、リスク、外部レッドチーミングの結果、そしてPreparedness Frameworkに基づく最前線リスク評価が詳細に記載されています。

外部パートナーシップ

• Independent Testing: 同社は、非政府系ラボや第三者安全組織との協力を進め、独立したモデル安全性評価を実施しています。
• Governmental Cooperation: OpenAIは米国および英国のAI Safety Instituteと連携し、新たなリスクと信頼できるAIの標準を研究しています。また、Los Alamos National Laboratoryと協力し、バイオサイエンス研究におけるAIの安全な利用を検討しています。

開発のための統合安全フレームワーク

OpenAIは、モデルリリースの成功基準を明確に定義した統合的な安全・セキュリティフレームワークを導入しています。このフレームワークはリスク評価に基づき、Safety and Security Committeeの承認が必要です。

このフレームワークを支えるため、OpenAIは研究、安全、政策チームを再編成し、組織全体での連携と結びつきを強化しました。このフレームワークは、モデルの能力と複雑性が高まるにつれて適応できるよう設計されています。