OpenAIがAIと子供の安全に関する研究に200万ドルを拠出
若年層のAI安全性研究への取り組み
OpenAIは「子供のためのより安全なAIに関するエンゲージメント憲章(Charter of Engagement for Safer AI for Children)」に正式に署名し、「AI時代における子供の権利と保護のための連合(Coalition for Children’s Rights and Protection in the Age of AI)」に対して200万ドルの資金提供を約束しました。この取り組みは、人工知能が子供に与える影響について、その発達に対する潜在的なリスクと学習や創造性の機会の両面に焦点を当て、独立した科学的研究を促進することを目的としています。
共通測定ツールの支援
この200万ドルの拠出金は、特に共通測定ツールの開発に充てられます。これらのリソースは、研究者がAIシステムを評価するための標準化された手法を提供し、これらの技術が若いユーザーとどのように相互作用するかをより深く理解できるようにすることを意図しています。これらのツールを作成することで、この取り組みは、より安全なAI製品の開発とより効果的な公共政策のための実証的な基盤を提供することを目指しています。
独立した研究の原則
この憲章の核心的な要素は、研究の独立性の保護です。合意に基づき、参加する研究チームは、その手法と結論に対して完全な管理権を保持します。このプログラムでは、AIの安全性に関する証拠基盤の透明性を確保し、偏りを防ぐために、否定的または結論が出なかったものを含め、すべての調査結果を公開することが義務付けられています。
政策および立法上の提言
この研究イニシアチブは、若年層のAI安全性に関する包括的な法整備を求めるOpenAIのより広範な提言と一致しています。同社は、以下の要素を優先する規制の枠組みを支持しています。
- 年齢に応じた保護措置: 子供の発達ニーズに合わせて調整されたデフォルトの保護機能。
- 保護者向けツール: 保護者が監視と制御を行える機能。
- 定期的なリスク評価: 潜在的な危害の継続的な評価と緩和。
- 有意義な説明責任: 開発者がツールの安全性に対して責任を持ち続けることを保証する構造。
OpenAIは、EU Kids Actの策定に関して欧州の政策立案者と対話する意向を表明しており、またAI時代における若者の安全基準を調和させるために国際的なパートナーとも協力していくとしています。