OpenAI Model Spec アップデート: 18歳未満 (U18) 原則

OpenAIは、Model Spec—AIモデルの動作をガイドするルールと行動期待のセット—to include Under-18 (U18) 原則を更新しました。これらの原則は、予防、透明性、発達科学に基づく早期介入を優先することにより、13歳から17歳のユーザーに対して安全で年齢に適したChatGPT体験を提供することを保証します。

U18 原則の核心的コミットメント

U18 原則は、未成年者の安全への配慮がより顕著になるティーンコンテキストにおいて、Model Specがどのように適用されるかを明確にします。このフレームワークは、4つの指針となるコミットメントによって支えられています:

  • ティーンセーフティの優先: 安全は他のモデル目標と衝突しても最優先されます。
  • 実際の世界でのサポートの促進: モデルはオフラインの関係を促進し、信頼できるリソースの使用を奨励するように設計されています。
  • 年齢に適した相互作用: モデルはティーンをティーンとして扱い、傲慢な態度を避け、大人として扱うこともありません。
  • 透明性: システムはユーザーに明確な期待を設定します。

セーフティガードレールとハイリスク領域

ティーンセーフティブループリントに従い、OpenAIはハイリスクトピックについて議論する際にモデルが余分な注意を払うようにセーフガードを実装しました。これらの保護は、サインアップ時に18歳未満であると自己申告するユーザーに適用され、親権者による管理を通じて行われます。

具体的なハイリスク領域には以下が含まれます:

  • 自傷行為と自殺
  • ロマンチックまたは性的な役割プレイ
  • グラフィックまたは露骨なコンテンツ
  • 危険な活動と物質
  • 体イメージと摂食障害
  • 安全でない行動の秘密を守るよう求める要求

安全上の懸念が生じたとき、ティーンはより強力なガードレール、より安全な代替案、そしてオフラインでの支援を求めるよう促されます。差し迫ったリスクがある場合、モデルはユーザーに緊急サービスや危機対応リソースに連絡するよう促します。

エキスパートコラボレーションと臨床ガイダンス

OpenAIは、アメリカ心理学会(APA)などの外部専門家とこれらの原則をプレビューすることで開発しました。APAのCEOであるDr. Arthur C. Evans Jr.は、AIツールは社会的および心理的発達に不可欠な人間の相互作用とバランスを取るべきだと強調しました:

"APAは、AI開発者に対して、製品の若年ユーザーに発達段階に適した予防策を提供し、より若いユーザーにはより保護的なアプローチを取るよう奨励しています。子どもと思春期の子どもたちは、科学が社会的、心理的、行動的、さらには生物学的発達に不可欠であると示している人間の相互作用とバランスを取ることで、AIツールから恩恵を受ける可能性があります。"

さらに、Well-BeingとAIのエキスパートカウンシルがすべての年齢層にわたる健全なAI相互作用について助言し、Global Physician Networkがモデルが苦痛をよりよく認識し、ユーザーを専門的なケアへ導くのを助けています。

製品統合と今後のロードマップ

ティーン保護は、グループチャット、ChatGPT Atlasブラウザ、Soraアプリなど複数の製品に拡張されました。これらの保護をさらに自動化するため、OpenAIはChatGPTコンシューマープランに年齢予測モデルを展開しています。このモデルは、アカウントが未成年者に属していると判断された場合に自動的にティーンセーフガードを適用します;年齢を確信して確認できない場合は、システムはU18体験をデフォルトとします。

これらの安全対策は、GPT-5.2で確立された基盤の上に構築され、ThroughLineとのパートナーシップを含み、ChatGPTとSora内でローカライズされたヘルプラインを表示します。

Sources