DALL·E 3 システムカード OpenAIは、DALL·E 2と比較してキャプションの忠実度と画像品質の改善を詳細に説明したDALL·E 3システムカードをリリースし、広範な安全評価とリスク軽減策も併せて示しました。

DALL·E 3 システムカード

DALL·E 3は、テキストプロンプトから新しい画像を生成するように設計されたAIシステムです。前身であるDALL·E 2を改善し、特にテキストプロンプトに従うモデルの精度であるキャプションの忠実度—the accuracy with which the model follows the text prompt—and overall image qualityを向上させています。

技術的な改善と機能

DALL·E 3は、DALL·E 2と比較して2つの主要な技術的進歩に焦点を当てています：キャプションの忠実度の向上と画像品質の向上。モデルがテキストプロンプトを解釈する方法を改良することにより、DALL·E 3はユーザーの意図した説明にさらに一致した画像を生成できます。

安全性と展開の準備

DALL·E 3の展開に備えて、OpenAIはいくつかの主要なコンポーネントを含む包括的な安全プロセスを実施しました：

外部エキスパートによるレッドチーム

OpenAIは外部のエキスパートを雇い、モデルの脆弱性や悪用の可能性を特定するための敵対的テストであるレッドチームングを実施させました。

リスク評価

このシステムカードでは、画像生成モデルに関連する主要なリスクの評価を概説しており、特に望ましくない動作や潜在的な害を特定することに焦点を当てています。

リスクの軽減策

OpenAIは、モデルがもたらすリスクを軽減し、望ましくない動作の発生を最小限に抑えるための軽減策を実装し、一般的な展開においてモデルがより安全になるようにしました。