OpenAI o3-mini System Card

OpenAI o3-miniは、大規模な強化学習とchain-of-thought（思考の連鎖）推論を活用することで、不適切な助言、ステレオタイプな回答、およびjailbreakへの耐性に関するベンチマークにおいて、最先端の安全性パフォーマンスを達成しています。このアプローチにより、モデルは不適切なプロンプトに応答する前に、コンテキスト内で安全性ポリシーについて推論することで、熟考型のalignment（整列）を実行することが可能になります。

安全性パフォーマンスと熟考型alignment

OpenAI o3-miniは、主要な安全性ベンチマークにおいて、特に不適切な助言の生成の削減、ステレオタイプな回答の回避、および既知のjailbreakへの耐性において、最先端のパフォーマンスと同等の性能を達成しています。これは、最終的な回答を提供する前に思考の連鎖を組み込むようにモデルをトレーニングすることで実現されており、応答プロセス中にコンテキスト内で安全性ポリシーについて推論することを可能にしています。

Preparedness Frameworkのリスク分類

OpenAI Preparedness Frameworkに基づき、Safety Advisory Group (SAG) は、緩和策適用前のOpenAI o3-miniモデルを全体として「Medium」リスクに分類しました。具体的なリスクの内訳は以下の通りです：

• Persuasion: Medium risk
• CBRN (Chemical, Biological, Radiological, Nuclear): Medium risk
• Model Autonomy: Medium risk
• Cybersecurity: Low risk

OpenAIのデプロイメントポリシーでは、緩和策適用後のスコアがMedium以下であるモデルのみがデプロイ可能であり、緩和策適用後のスコアがHigh以下であるモデルのみがさらなる開発が可能であると定められています。

Model Autonomyと自己改善

OpenAI o3-miniは、コーディングおよびリサーチエンジニアリングのパフォーマンス向上により、同シリーズで初めてModel AutonomyにおいてMediumリスク分類に達したモデルです。この自律性のリスク増加にもかかわらず、モデルは自己改善に必要な実世界の機械学習研究能力をテストする評価においては依然として低いパフォーマンスを示しており、これはHighリスク分類に必要な閾値となっています。