OpenAI の民主的インプット AI助成プログラム アップデート

OpenAI は、AI の集合的ガバナンスのためのツールと手法を開発する 10 のグローバルチームに資金提供する民主的インプット AI 助成プログラムの初期フェーズを完了しました。このイニシアチブは、公共のインプットを収集・実装するスケーラブルで民主的なプロセスを創出することで、AI モデルの振る舞いを人間の価値観と整合させることを目指しています。

民主的AIガバナンスにおけるイノベーション

OpenAI は、113 カ国からの約 1,000 件の応募者の中から選ばれた 10 チームに 100,000 ドルを授与しました。これらのチームは、法学、ジャーナリズム、社会科学、機械学習の多様な専門知識を活用し、参加型エンゲージメントのプロトタイプを作成しました。AI は、文字起こし、データ統合、カスタマイズされたチャットインターフェースの促進など、これらのプロセスで頻繁に使用されました。

助成プロジェクトの概要

  • AIポリシーのための判例法: AI 相互作用シナリオのケースリポジトリを作成し、専門家やステークホルダーが関与する判例法にインスパイアされた判断を可能にした。
  • 民主的政策開発のための集合対話: 集合対話を用いて民主的審議をスケールし、政策開発のための合意領域を特定した。
  • スケールでの審議: AI 支援のビデオ通話を開発し、小グループの会話で民主的審議を可能にした。
  • 民主的ファインチューニング: チャット対話を通じて価値観を引き出し、モデルのファインチューニング用の「モラルグラフ」を作成した。
  • AI を活性化: ライブで大規模な参加と「コミュニティノート」スタイルのアルゴリズムを用いたアラインメントプラットフォームを構築した。
  • 生成的社会選択: 社会選択理論を適用し、自由記述意見を簡潔で公平に代表的な立場のスレートに凝縮した。
  • Inclusive.AI: DAO などの分散型ガバナンスメカニズムを使用し、AI 意思決定においてサービスが行き届いていない層をエンパワーメントした。
  • AI を透明かつ説明責任あるものにする（Rappler）: オフラインとオンラインのプロセスを組み合わせ、複雑で極性化したトピックの議論を促進した。
  • Ubuntu-AI: アフリカのクリエイティブ作品が包括的に表現され、貢献者が報酬を受け取れるプラットフォームを開発した。
  • vTaiwan と Chatham House: vTaiwan の手法を適応し、AI ガバナンスのための再帰的で接続された参加プロセスを作成した。

主要な技術的・社会的学び

助成プログラムは、AI アラインメントのための公共インプット収集に関するいくつかの重要な課題と洞察を明らかにしました。

世論の変動性

AI の振る舞いに対する公共の見解は頻繁に変化し、時には日々変わることがあります。これは、インプット収集プロセスが根本的で安定した価値観を捉えると同時に、時間経過に伴う意見の有意なシフトを感知できるように設計される必要があることを示唆しています。

デジタル格差と参加バイアス

デジタルおよび文化的格差を越えて参加者を募集することは依然として大きなハードルです。チームは、オンラインで募集された参加者が AI に対してより楽観的である傾向があり、一般的に AI モデルの振る舞いへの支持が高いことを観察しました。さらに、Whisper などの音声認識ツールがタガログ語、ビニサヤ語、ヒリガイノン語といった言語で技術的制限を示し、Rappler チームの文字起こしを複雑にしていることが指摘されました。

極性化と多様性の管理

小数派が非常に強い意見を持つ場合、極性化したグループ内で妥協点を見つけることは困難です。しかし、Collective Dialogues チームは、ワクチン情報などの分裂的課題に関する政策ガイドラインが、民主党員、無所属、共和党員の間で 72％ 超の支持を得たことを報告しています。

広範な合意に到達することと、視点の多様性を代表することの間には持続的な緊張があります。Generative Social Choice チームは、数学的理論を用いて重要な立場を浮き彫りにし、共通点を探りながら幅広い意見を提示しました。

公衆の信頼とガバナンスにおける AI の役割

参加者は、民主的機関や AI 開発者が AI システムにどれだけの権限を与えるべきかについて慎重な姿勢を示しました。AI が効率性（例：政策条項の生成）に使用され、かつ専門家のキュレーションや最終的な人間投票といった非 AI の意思決定ステップと組み合わされる場合、信頼は高まります。

実装と今後の方向性

OpenAI は、研究者とエンジニアで構成される「Collective Alignment」チームを設立しています。このチームは主に二つの目的を担います。

  1. システム実装: モデルの振る舞いに関する公的インプットを直接 AI システムに収集・エンコードするシステムの設計と実装。
  2. パイロット統合: 外部アドバイザーや助成チームと協力し、助成プログラムで開発されたプロトタイプを OpenAI モデルの指針に組み込むパイロットを継続する。

Sources