OpenAI DALL·E 2 研究プレビューの更新

OpenAIは、待機リストに登録されたユーザーへのDALL·E 2へのアクセスを拡大し、週に最大1,000人をオンボーディングしています。この拡大は、信頼できるユーザーが300万枚以上の画像を生成した限定的な研究プレビュー段階に続くもので、OpenAIは安全システムとコンテンツポリシーの施行を洗練させることができました。

安全システムの強化とポリシー施行

OpenAIはテキストフィルタを改善し、自動検出・応答システムを調整して、コンテンツポリシー違反をより適切に識別できるようにしました。研究プレビューのデータに基づくと、ダウンロードまたは公開共有された画像の0.05%未満がコンテンツポリシーに違反する可能性があるとしてフラグ付けされました。そのフラグ付けされた画像のうち、約30%が人間のレビュアーによって実際の違反と確認され、アカウントの無効化につながりました。

バイアスへの対処とハーム軽減

潜在的なハームを軽減し、トレーニングデータから受け継がれるバイアスに対処するため、OpenAIは初期ユーザーに顔を含むフォトリアリスティックな生成物の共有を控えるよう要請しました。また、ユーザーには問題のある生成物をフラグ付けするよう奨励しました。OpenAIは、この取り組みが現在の研究プレビュー段階において潜在的なハームを抑制するのに効果的であったと述べています。

デプロイ戦略とユーザーオンボーディング

OpenAIは、待機リストに登録されたユーザーへのDALL·E 2へのアクセスをゆっくりと着実に拡大しています。オンボーディング率は現在、週に最大1,000人に設定されています。この段階的な展開は、実世界での利用から学び、安全システムを改善しながらAIを責任ある形でデプロイするというOpenAIのコミットメントの一環であり、オンボーディング率を増やす前に安全システムを繰り返し改良することを目的としています。