OpenAI ティーンセーフティおよび学習フレームワーク

OpenAIは、ティーンエイジャーが安全にAIにアクセスできるように、年齢に適した保護と学習に焦点を当てたツールのフレームワークを実装しています。このアプローチは、AIが現在の世代を定義する技術であり、成人になるまでアクセスを制限するとティーンエイジャーが将来に備える準備ができなくなるという前提に基づいています。

学習に焦点を当てたツールと学習モード

OpenAIは、ティーンエイジャーとのAIのインタラクションの焦点を、即時の回答を提供することから、積極的な関与と批判的思考を育む方向にシフトしています。

学習モード

学習モードは、教育の専門家、学習科学者、教師との協力によって開発されました。単に答えを提供するのではなく、構造化された説明、ガイドとなる質問、そして振り返りの機会を使用して、学生が問題をステップバイステップで解決できるよう支援します。初期の評価では、これらのツールが学生のパフォーマンスの有望な向上につながっていることが示されています。

教育支援機能

学術的な利用を促進するため、OpenAIはいくつかの具体的な強化を導入しました：

• 親のアクティベーション: linked teen accountsを持つ親は、親向けコントロールを通じて直接学習モードを有効にできるようになり、ティーンエイジャーが開始するすべての新しいチャットのデフォルトとなります。
• スタータープロンプト: 新しい教育焦点のプロンプトは、ティーンエイジャーが複雑なトピックを分解し、フラッシュカードを作成し、練習問題を生成し、ノートを学習ガイドに変換するのを助けます。
• インタラクティブな体験: ChatGPTは現在、数学と科学の300以上のトピックに対するインタラクティブな学習体験を提供しており、週に1800万人のユーザーが利用しています。
• 言語学習: 新しい発音体験は、音声を利用して61以上の言語での発音学習をユーザーに支援します。

ビルトインセーフガード for ティーンユーザー

ChatGPTがユーザーが18歳未満であると推定すると、有害なコンテンツへの露出を減らすために強化されたガードレールを備えたより年齢に適した体験を自動的に適用します。

コンテンツ保護

より強力なセーフガードが実装され、以下への露出を防止します：

• グラフィックな暴力
• 自傷行為
• リスクの高いバーチャルチャレンジ
• 不健康な体イメージコンテンツ
• 危険、ロマンチック、または性的なロールプレイ

行動の健康と習慣形成

バランスの取れたテクノロジーの習慣を促進するため、ChatGPTはプラットフォームを長時間使用するティーンエイジャーに対して、より頻繁に休憩のリマインダーを提供します。

親向けコントロールと通知

OpenAIは、親がティーンエイジャーのAI使用を管理できるようツールを開発しました：

• コントロール設定: 親は静かな時間を設定し、音声モードを無効にし、画像生成へのアクセスを管理できます。
• ハイリスク通知: 親は、潜在的な自傷行為の兆候など、ハイリスク状況での通知を受け取ります。
• ポリシー違反アラート: 通知は、暴力的な脅威やオンラインでの暴力行為に関する使用ポリシー違反によりリンクされたティーンアカウントが無効化されたケースを含むように拡張されています。

コラボラティブなセーフティエコシステム

OpenAIは、外部の専門家や組織と協力して、安全ポリシーを洗練し、セーフガードの効果を評価しています。

エキスパートパートナーシップ

OpenAIは、子どもの安全の専門家、メンタルヘルスプロフェッショナル、研究者、政府、教育者と協力しています。具体的には、オンライン暴力の防止におけるリーダーであるMoonshotと協議し、介入が思慮深く効果的であることを確認しています。

業界のメンバーシップ

OpenAIは、Family Online Safety Institute (FOSI)に参加し、年齢に適した保護と親向けツールを強化する業界全体の取り組みを推進しています。

未来のロードマップ

OpenAIは、年齢に適した保護を継続的に強化し、深刻な害に対するセーフガードを改善する意向です。今後の取り組みは、健全なAI利用に関する研究を進め、ティーンエイジャーが積極的かつ自信を持って学べる体験を拡大することに焦点を当てます。