OpenAI ティーンの安全性、自由、プライバシー・フレームワーク

OpenAI は、ユーザーのプライバシー、個人の自由、未成年者の保護という間の緊張関係を管理するための新しいフレームワークを発表しました。同社は 18 歳未満のユーザーの安全を最優先し、より厳しいコンテンツ制限と年齢予測システムを導入して、未成年者が成人ユーザーよりも高い保護レベルを受けられるようにしています。

プライバシー保護とAI特権

OpenAI は AI との会話を個人的に機密性が高いものとみなし、医師‑患者や弁護士‑依頼人の特権に匹敵する保護レベルを提唱しています。同社は、データが OpenAI の従業員からもプライベートに保たれるよう、先進的なセキュリティ機能の開発に取り組んでいます。

このプライバシー基準には、重大な悪用を防止するための特定の例外があります。自動システムが重大なリスクを監視し、生命への脅威、他者への危害計画、あるいは大規模なサイバーセキュリティインシデントの可能性といった最も深刻な脅威は、人間によるレビューへエスカレーションされることがあります。

成人ユーザーの自由

成人ユーザーに対しては、OpenAI は「成人ユーザーを成人として扱う」という原則に従い、害を及ぼさない限り可能な限り自由を拡大します。これは、モデルが特定のユーザー意図に合わせてより操作しやすく設計されていることを意味します。

• フラーティッシュなコンテンツ: デフォルトの挙動ではありませんが、成人ユーザーが明示的にリクエストすれば、モデルはいちゃつき的な会話を提供します。
• 創作執筆: モデルは自殺の方法を指示することはしませんが、成人ユーザーが自殺を描写したフィクションの執筆を支援することは可能です。

ティーン向け安全保護

OpenAI は 18 歳未満のユーザーに対して、プライバシーや自由よりも安全性を優先します。ChatGPT は 13 歳以上のユーザーを対象としているため、未成年者を保護するための複数の施策を実施しています。

年齢予測と検証

成人ユーザーとティーンユーザーを区別するために、OpenAI は使用パターンに基づいて年齢を推定する年齢予測システムを構築しています。システムがユーザーの年齢に不確かさを抱いた場合、デフォルトで 18 歳未満向けの体験が提供されます。特定のケースや国では、年齢確認のために政府発行の身分証明書が求められることがあり、これは未成年者の安全を確保するために成人のプライバシーと引き換えになることを示しています。

より厳しいコンテンツ境界

ChatGPT を利用するティーンは、成人よりも制限の厳しいルールの対象となります。具体的には、モデルは以下を拒否するように訓練されています。

• いちゃつきトーク: 18 歳未満のユーザーに対しては、リクエストの有無にかかわらず、モデルはいちゃつき的な会話に応じません。
• 自傷行為と自殺: 創作執筆やフィクションの文脈であっても、モデルは自殺や自傷に関する議論に応じません。

危機介入

18 歳未満のユーザーが自殺念慮を示した場合、OpenAI はユーザーの保護者に連絡を試みます。保護者に連絡が取れない場合、差し迫った危害の可能性があると判断された際には当局に連絡します。