OpenAI ユース AI 安全提案とグローバル リーダーシップ イニシアティブ
OpenAI ユース AI 安全提案とグローバル リーダーシップ イニシアティブ
OpenAI は、国際的なユース AI 安全研究所の創設と、AI を使用した未成年者の保護のためのグローバル フレームワークの採用を呼びかけています。このイニシアティブは、年齢に適したセーフガードを標準化し、AI が人間の発達の代わりではなく、学習と機会のためのツールとなることを確保することを目的としています。
国際的なユース AI 安全研究所の提案
OpenAI は、個々のサミットを超えたグローバルな調整の継続性を提供するため、専門の国際的なユース AI 安全研究所の設立を提案しています。この研究所は、政府、研究者、市民社会、産業が証拠を共有し、ガイダンスを策定し、時間をかけて安全基準を向上させるハブとして機能します。
OpenAI はこの研究所に対して、以下の 2 つの主要な実装パスを提案しています：
- 新しい国際組織：ユース AI 安全に特化した独立した組織。
- 拡張された使命：既存または新設された国家 AI 研究所に、国際パートナーと研究およびガイダンスを共有するためのグローバルな使命を与える。
この提案は、OpenAI ファンデーションが支援する Common Sense Media の Youth AI Safety Institute、米国教師組合とのコラボレーション、スタンフォード大学およびエストニアの研究者とのパートナーシップで実施されたエストニアの学校における全国的な ChatGPT ロールアウトなどの研究主導の導入など、既存の取り組みを基盤としています。
グローバルなユース AI 安全基準のための 9 ポイント フレームワーク
OpenAI は、強力な AI ユース安全フレームワークおよび G7 合意の策定をガイドするため、9 つのコア原則を示しています：
- 年齢に適した保護：プロバイダーは、プライバシーを保護する年齢推定を使用して未成年者を特定し、ユーザーの年齢が不明な場合は保護セーフガードをデフォルトにしなければなりません。
- 前向きなリスク評価：企業は、潜在的な害が発生する前に対処するため、毎年ユース安全リスク評価を実施し、同時に学習や創造性などのプラスの成果も測定すべきです。
- 親向けコントロール：保護者は、メモリ、データ使用、時間制限を管理できるアクセス可能なツールを持つべきであり、これらのツールは家族に積極的に普及させるべきです。
- 透明性：企業は、若年ユーザーに対するセーフガードとその進化を説明する明確な安全ポリシーを公開しなければなりません。
- ハイリスク プロトコル：自傷、搾取、グルーミング、性的搾取コンテンツなどの深刻な安全状況に対する明確なプロトコルが存在しなければならず、リソースへの紹介や保護者への通報も含まれます。
- 発達のサポート：AI は、学習や現実世界の人間関係をサポートするように設計され、それらを置き換えるものではなく、人間の判断や専門的サポートが不可欠な領域での境界を維持すべきです。
- プライバシー保護：未成年者の個人情報は保護されなければならず、特に個人データの販売とプライバシーを侵害するターゲティング広告を禁止する必要があります。
- リテラシーの促進：フレームワークは、若者が AI を責任を持って自信を持って使用できるように、AI リテラシーと批判的思考スキルを促進すべきです。
- 説明責任と監査：共通で相互運用可能な基準に基づく独立した監査と立法監督が必要であり、保護が効果的に実施されることを確保するためです。
ChatGPT とグローバル教育における実装
OpenAI は、特定の製品設計と行動ガイドラインを通じて、これらの原則を ChatGPT に組み込んでいます：
- 未成年者へのセーフガード：18 歳未満のユーザーに対して、体イメージ、危険な活動、グラフィック コンテンツ、自傷、秘密保持などの領域でのガードレールを強化しています。
- モデル スペック：18 歳未満のユーザー向けに、年齢に適した体験を優先し、オフラインでのサポートを求めるよう促す専用の原則があります。
- 年齢予測：ユーザーが未成年者であると疑われる場合に、より強力な保護を適用する高度な年齢予測システムがあります。
製品の安全性を超えて、OpenAI の「Education for Countries」イニシアティブは、エストニア、ギリシャ、シンガポールの政府と協力し、ローカライズされた学習ツール、教師トレーニング、研究主導の導入を提供して、AI の導入が実際の教室ニーズを満たすようにしています。
G7 サミットと OpenAI フォーラム
OpenAI は、フランスのエヴィアンで開催される G7 首脳会議に参加し、業界基準と提案されたユース AI 安全研究所について議論します。さらに、OpenAI はパリで OpenAI フォーラムを開催し、フランスの AI およびデジタル問題担当大使クララ・シャパズ、OpenAI チーフ グローバル アフェアーズ オフィサーのクリス・レヘーン、および iRaise/Everyone.AI の専門家とのディスカッションを特徴とします。