OpenAI Japan ティーン安全設計図

OpenAI Japanは、ティーンエイジャーが生成AIを安全に利用できるよう設計された「Japan Teen Safety Blueprint」を発表しました。このイニシアチブは、利便性やプライバシー、利用の自由よりも安全性を優先し、誤情報、不適切なコンテンツ、若年ユーザーの心理的負担といったリスクを軽減します。

Japan Teen Safety Blueprint の主要な柱

Japan Teen Safety Blueprintは、4つの主要な技術的・運用的柱に基づいて構築されています。

年齢認識保護

OpenAIは、プライバシーに配慮したリスクベースの年齢推定を実装し、ティーンエイジャーと成人を区別します。これにより、プラットフォームは年齢層に合わせた特定の保護を適用できます。年齢判定が誤っていると考えるユーザー向けに、異議申し立てプロセスを提供します。

未成年者向け安全ポリシーの強化

18歳未満のユーザー向けの安全ポリシーを強化し、AIが以下を行うことを防止します：

  • 露骨な性的または暴力的なコンテンツの生成
  • 自傷行為や自殺を描写・助長すること
  • 危険な行動を助長すること
  • 有害な身体イメージを強化すること

応答は発達段階に適したものになるよう設計されています。さらに、AIは未成年者がリスクのある行動や症状、健康に関する懸念を親や保護者から隠すことを支援することも制限されます。

拡張された保護者コントロール

OpenAIは、以下を含む家族が保護をカスタマイズできるツールを導入しています：

  • アカウント連携
  • プライバシーと設定のコントロール
  • 利用時間管理
  • 保護者や介護者へのアラート

ウェルビーイング中心のデザイン

臨床医、研究者、教育者、子どもの安全専門家と協力し、OpenAIは休憩リマインダーや実際の支援への導線などの機能を開発しています。同社はまた、AIがティーンエイジャーのメンタルヘルスや発達に与える影響についての研究も行っています。

既存の安全対策

新しい設計図は、すでにChatGPTに組み込まれている既存の安全対策を基盤としています。具体的には：

  • 自己傷害検出: 潜在的な自己傷害のシグナルを検出し、ユーザーを実際のリソースへ案内するシステム。
  • 利用リマインダー: 長時間使用時に休憩を促す製品内リマインダー。
  • 悪用モニタリング: 多層的な安全システムと悪用監視。
  • CSAM防止: AI生成の児童性的搾取コンテンツに対する業界最先端の防止策。

産業界と社会の協働

OpenAI Japanは、ティーンエイジャーの保護は企業、政府、教育者、家族が共同で担う責任であると強調しています。同社は、保護者、政策立案者、地域コミュニティと透明性のある対話を通じて、これらの保護策を業界標準にすることを目指します。

「AIと共に成長する世代の安全を守ることは、企業、政府、教育者、家族を含む社会全体の共有責任です。OpenAIは、日本中のステークホルダーと緊密に協力し、若いユーザーが自信を持って学び、創造し、可能性を広げられる環境を作ることに取り組んでいます。」

—Kazuya Okubo, Head of Policy and Partnerships, OpenAI Japan

Sources