OpenAIコミュニティ安全レポートと10代向け保護機能の強化

安全性への取り組みの概要

OpenAIは、半年ごとのコミュニティ安全レポートの導入と、より厳格なコンテンツ制限の実装を通じて、安全性への取り組みを正式なものにしています。これらの更新は、AIが現実世界の暴力行為を助長するために使用されるリスクに対処することを目的としており、2026年第3四半期に法執行機関への照会のために200件以上の信頼できる脅威を特定した既存のシステムを基盤としています。

コミュニティ安全レポート

2027年初頭より、OpenAIは2026年後半を対象としたコミュニティ安全レポートを公開し、その後6か月ごとに更新を行います。このレポートは、以下の内容を含む同社の安全インフラストラクチャの透明性を提供します。

• コミュニティの安全に関する問題を検知、調査、対応するためのシステムトレーニング手法。
• ユーザーとの対話において暴力関連の危害がどのように現れるかの匿名化された例。
• 現在の緩和策の有効性に関するデータに基づいた洞察。
• 新しいポリシーの変更と安全対策の文書化。

暴力的なコンテンツに関するポリシー制限

OpenAIは、暴力行為の計画や調査のために ChatGPT が悪用されることを防ぐため、利用ポリシーを強化しています。これらの制限は、年齢や意図に関係なくすべてのユーザーに適用されます。

• 大量攻撃の再現: モデルは、過去の大量攻撃に関する詳細な情報提供を制限します。これには、イベントを再現するコンテンツ、使用された特定の武器や機器の詳細、それらのアイテムの入手方法の説明、または攻撃者の悪名を高める可能性のある危害の比較を提供するコンテンツの制限が含まれます。
• 文脈認識: ChatGPT は、会話の複数のターンにわたって警告サインを認識するように更新されています。ユーザーが暴力に執着するパターンを示した場合、システムはより保守的に応答し、自動的にチャットを終了させる場合があります。このような違反が繰り返されると、アカウントが一時的に停止される可能性があります。

10代向け保護機能の強化

OpenAIは、年齢に応じた保護措置の必要性を認識し、年齢予測システムを通じて18歳未満と識別されたユーザーに対する制限を拡大しています。主な更新内容は以下の通りです。

• 武器に関する情報: クエリが無害に見える場合でも、システムは悪用される可能性のある武器やセキュリティシステムに関する実用的な情報を制限するようになります。
• 保護者による監視: OpenAIは、保護者による管理機能を拡大しています。リンクされたアカウントを持つ保護者は、10代のユーザーのアカウントが暴力に関する議論の繰り返しによって一時停止された場合に通知を受け取ります。これは、深刻な自傷行為の懸念やポリシー違反に対する既存のアラートに追加されるものです。
• 年齢確認: 年齢予測システムによって誤って18歳未満とフラグが立てられたユーザーは、Persona 検証サービスを使用して成人であることを確認し、これらの追加制限を解除することができます。