OpenAI: AI開発における検証可能性の向上

OpenAIと、様々な学術機関および産業界の機関からなる研究者連合は、AI開発の検証可能性を向上させるためのフレームワークを導入しました。この取り組みは、ユーザー、規制当局、学術関係者を含むステークホルダーに対し、AIシステムが開発者によって表明された倫理原則や安全性の主張を実際に反映しているかどうかを検証する手段を提供することを目的としています。

AI開発における検証可能性のギャップ

AI組織による倫理原則の表明と、外部のステークホルダーがそれらの原則を実際に検証できる能力との間には、大きな隔たりがあります。この透明性の欠如は、いくつかのシステム的なリスクを生み出します：

• 社会的危害の増大: システムの特性に関する曖昧さは、潜在的なリスクが見過ごされたり、対処されなかったりする原因となります。
• 競争による手抜き: 外部検証がない場合、開発者は競争上の優位性を得るために、安全性や倫理的なベストプラクティスを犠牲にする動機が生まれる可能性があります。
• ステークホルダーの不確実性: ユーザー、政策立案者、市民社会は、プライバシー、安全性、およびリスクに関する主張を精査するためのツールを不足しています。

主要なステークホルダーの懸念事項

このフレームワークは、ステークホルダーがAIシステムと対話する際に直面する特定の質問に対処します：

• ユーザーのプライバシー: ユーザーは、機械翻訳のような機密性の高いタスクにAIを使用する際、保証されるプライバシー保護のレベルに関する主張を検証する必要があります。
• 規制当局による監督: 規制当局は、事故（例：自動運転車）に至るまでのプロセスを追跡する能力と、安全性の主張を測定するための基準を確立する能力を必要としています。
• 学術研究: 独立した研究者は、産業界が利用可能なコンピューティングリソースを欠いていることが多く、大規模なAIシステムの技術的なリスクに関する公平な研究を行う能力が妨げられています。
• 開発者の責任: AI開発者は、自社の競合他社が、迅速な展開を実現するために手抜きをするのではなく、ベストプラクティスに従っているという確信を必要としています。

検証のための提案されたメカニズム

検証可能性のギャップを埋めるために、本レポートは、ステークホルダーがAIの主張を検証するのを助けるために設計された10個のメカニズムを特定しています。詳細な技術的議論や注意事項については、付属の研究論文に詳しく記載されていますが、これらのメカニズムは、AI開発をより透明かつ社会に対して説明責任のあるものにするための構造化されたアプローチを提供することを意図しています。