OpenAI Applied AI Research: AGI、セーフティ、継続的学習に関する視点

AGI と人間レベルの生産性への道

人工汎用知能（AGI）は、ほとんどの経済的に価値のある仕事で人間を上回ることができるAIとして定義されます。AGIの実現は、主に3つの社会的利益をもたらすと期待されています：生産性向上のための反復的で革新性のない作業の完全自動化、データ分析と意思決定支援の強化による科学的ブレークスルーの加速、そして物理世界と安全かつ効率的に相互作用できるAIの開発です。

モデルサイズとデータのスケーリングは現在の進歩の主要な要因ですが、AGI達成のための唯一の要件ではありません。残された最も緊急の課題はアラインメントと安全性であり、目標を効果的に伝える能力と、モデルが操作可能かつ制御可能であることを確保することに焦点が当たります。

AI安全性とバイアス軽減の進展

大規模な事前学習言語モデルの安全な展開を保証するには、人間が生成したトレーニングデータに含まれる欠陥やバイアスを積極的に緩和する必要があります。モデルは現実世界の統計や社会的バイアスを吸収するため、たとえば DALL·E が「看護師」では女性キャラクターのみ、「教授」では白人のみを生成するといった事例があるため、専用の安全パイプラインが必要です。

OpenAI の Applied AI Research チームは、いくつかの重要な安全イニシアチブを実施しています：

• コンテンツ評価: 事前学習モデルがヘイト、性的、または暴力的なコンテンツを生成するかどうかを評価するためのデータとタスクの設計。
• コンテンツモデレーション: 不要なコンテンツを検出し、そのコンテンツが不適切である具体的な理由を特定するための詳細なタクソノミーと分類器の作成。
• 出力ステアリング: モデルが安全でない出力を生成する可能性を低減する技術の開発。
• バイアス低減パイプライン: 社会的バイアスを低減するパイプラインの実装と、人間が介在する評価ワークフローの組み合わせ。

ロボティクスと強化学習における技術的マイルストーン

広範なドメインランダム化と組み合わせた深層強化学習（RL）は、実世界のトレーニングデータを必要とせずにロボットが複雑な物理タスクを実行できるようにします。このアプローチの主要な例として、単一の人間型ロボットハンドを Rubik's cube の解法に成功させた訓練があり、シミュレーション、RL 訓練、視覚認識、ハードウェアファームウェアの緊密な統合が必要でした。

継続的学習と学際的インスピレーションの役割

継続的学習と異なる分野間のアイデアの統合は、AI 研究における潜在的解決空間を拡大するために不可欠と見なされています。このアプローチは以下のように具体化されます：

• 学際的研究: ディープラーニング以外の分野からインスピレーションを得ること、例えば作家の粘り強さ、外科医の細部へのこだわり、そして「クレイジーなアイデア」を持つ起業家精神など。
• 知識の文書化: 公開ブログを活用して学習ノートを整理し、他者に教えることで知識を定着させる方法。
• 協働的チームワーク: 「ブロッカー」の除去を優先し、タスクの重要性や名声に関係なく必要な作業を引き受け、チーム全体の生産性を最大化すること。