OpenAI 子ども安全コミットメント：Safety by Design 原則の採用

OpenAI は、Amazon、Anthropic、Civitai、Google、Meta、Metaphysic、Microsoft、Mistral AI、Stability AI などの業界リーダーと協力し、Safety by Design 原則を採用しました。このイニシアチブは、非営利団体 Thorn と All Tech Is Human が主導し、生成 AI が子どもにもたらすリスクを事前に軽減し、AI 技術の開発・展開・保守のすべての段階で子どもの安全が最優先になることを目指しています。

子どもに安全なAIの積極的開発

OpenAI は、子どもの安全リスクに積極的に対処する生成 AI モデルの構築とトレーニングにコミットします。この開発フェーズは、以下の 3 つの主要な技術的・運用的目標に焦点を当てます。

  • トレーニングデータの完全性: OpenAI はトレーニングデータセットを責任を持って取得し、児童性的虐待資料（CSAM）および児童性的搾取資料（CSEM）をトレーニングデータから積極的に検出・除去し、確認された CSAM は関係当局に報告します。
  • 反復テスト: 開発プロセスはフィードバックループと反復的なストレステスト戦略を組み込み、脆弱性を特定します。
  • 敵対的悪用: 同社はモデルの敵対的悪用に対処し防止するために特別に設計されたソリューションを展開しています。

展開および配布時の保護策

生成 AI モデルのリリースと配布の安全性を確保するため、OpenAI は以下の対策を約束します。

  • 評価と予防: モデルは子ども安全性のためにトレーニングおよび評価が完了した後にのみリリース・配布され、プロセス全体に保護が組み込まれます。
  • 悪用への対応: OpenAI は悪用コンテンツや行為と戦い、被害を抑えるための予防策を組み込みます。
  • 開発者の所有権: 同社は開発者に以下の Safety by Design 原則への所有権を奨励します。

継続的な保守とリスク軽減

OpenAI は、子ども安全リスクの新たな出現を継続的に監視・対応することでプラットフォームの安全性を維持します。このコミットメントに含まれる主な取り組みは次のとおりです。

  • AIG‑CSAM 対策: OpenAI は悪意ある行為者によって生成された AI 生成児童性的虐待資料（AIG‑CSAM）をプラットフォームから除去することにコミットしています。
  • 研究投資: 同社は CSAM、AIG‑CSAM、CSEM と闘うための研究と将来の技術ソリューションに投資します。
  • ステークホルダーエンゲージメント: OpenAI は National Center for Missing and Exploited Children (NCMEC)、Tech Coalition、そして同社の政府・産業ステークホルダーと連携し、報告メカニズムと子ども保護問題の強化に取り組みます。

アカウンタビリティと報告

この作業部会の一環として、OpenAI とその仲間は毎年進捗アップデートを公開し、これらの安全原則の実施に関する透明性と説明責任を維持することに合意しました。

SUMMARY: OpenAI と他の業界リーダーは、生成 AI が子どもにもたらすリスクを軽減するために Safety by Design 原則を実装することにコミットし、児童性的虐待資料（CSAM）および搾取資料（CSEM）の防止に重点を置いています。

TITLE: OpenAI 子ども安全コミットメント：Safety by Design 原則の採用

Sources