OpenAIが若者のAI安全に関するカリフォルニア州上院法案1119を支持

OpenAIは、AIを利用する若者向けに義務的な安全保護策を確立するための立法努力であるカリフォルニア州上院法案1119（SB 1119）を支持しています。この支持は、連邦政府の対応がない状況下で若者のAI安全に関する強力な基準を創設し、強力なデフォルトの保護を維持しながら、ティーンエイジャーが学習や生産性向上のためにAIツールにアクセスできるようにすることを目的としています。

SB 1119の主な要件

上院法案1119は、責任の所在と年齢に応じた保護を組み合わせた枠組みを提案しています。OpenAIは特に、法案に概説されている以下の要件を支持しています：

• 年齢認証: ユーザーの年齢を確認する機能。
• リスク評価: 若者に製品を提供する前に、安全リスクを特定して対処すること。
• 独立した監査: 製品に独立した監査を受けることを義務付けること。
• 有害コンテンツからの保護: 性的に搾取的なコンテンツや自傷行為を含む、高リスクの相互作用や有害なコンテンツから若者を保護すること。
• 保護者による監督: 保護者が子供のAI利用をガイドし制限するためのツールを提供すること。
• 危機サポート: 深刻な安全リスクが検出された際に、若者を危機サポートのリソースにつなぐこと。
• データプライバシー: ターゲット広告を制限し、若者の個人情報を保護すること。

13歳から17歳の間であると特定されたユーザーに対して、これらの保護は自動的に適用されるよう設計されています。

ティーンエイジャー向けChatGPTと組み込みの安全策

OpenAIは、18歳未満のユーザー向けに設計された「ティーンエイジャー向けChatGPT」の体験を実装しています。ユーザーが自身の年齢を13歳から17歳の間であると申告した場合、またはシステムが18歳未満であると推定した場合、自動的にこの特別な体験に移行します。これらの保護はオプションの設定ではなく、ベースラインの要件です。

教育ツール

ティーンエイジャー向けChatGPTには、批判的思考や学習習慣をサポートするために教育者や学習の専門家とともに開発された機能が含まれています。例えば以下のものがあります：

• クイズ
• 学習の可視化
• 学習モード（学生をステップバイステップで問題に導くように設計されています）

安全性とコンテキストの継続性

OpenAIは、コンテキストとメモリ機能を活用して安全策を一貫して適用し、時間の経過とともに懸念されるパターンを認識します。この継続性により、ティーンエイジャーは再起動なしで長期的な学習プロジェクトに取り組むことができ、若者が追加のリソースを必要とする際にシステムがより効果的な対応を提供できるようになります。

継続的な安全の枠組みと原則

OpenAIは、製品開発やModel Specにいくつかの安全対策を統合しています。以下が含まれます：

• 保護者によるコントロール: 家族が設定を管理し、高リスクの状況で通知を受け取るためのツール。
• 年齢予測: 適切な保護を適用するためにユーザーの年齢を推定するシステム。
• ティーンエイジャーの安全のブループリント: 若者の安全に関する戦略的枠組み。
• Model Specのガイドライン: AIが恋愛関係を持つこと、感情的依存を助長すること、または人間や感情を持つ存在であると主張することを禁止するルール。

OpenAIは、SB 1119を、進化するAI技術に歩調を合わせるために、実装段階での継続的な研究と協力を通じて改善できる枠組みと見なしています。