OpenAI 民主的入力 AI プログラム

OpenAIは、AIシステムが従うべきルールを決定するための民主的プロセスを確立することを目的とした10件の10万ドルの実験に資金を提供する助成金プログラムを立ち上げました。このイニシアティブは、AIの動作が単一の企業、個人、または国によって決定されるのではなく、多様な公共の視点によって形成されることを確保しようとしています。

AIガバナンスにおける民主的プロセスの定義

OpenAIは、「民主的プロセス」を、広く代表的な人々のグループが意見を交換し、熟議的な議論を行い、透明な意思決定プロセスを通じて結果を導き出すものと定義しています。目標は、単純な法的枠組みを超えて、AIの行動のために複雑で適応可能なガイドラインを作成することです。

このプロセスの主要な構成要素は次のとおりです：

• 広範な代表性: 特定の政策問題に応じて、少数派グループやドメインエキスパートを含む多様な視点を確保するために参加者を選択します。
• 熟議: 意見を明らかにし、誤解ではなく価値に基づいて参加者が自分の見解を理解し、更新するのを助けるプロセスを使用します。
• 透明な意思決定: 多数決、流動的民主主義、またはソーティション（ランダムな人口サンプリング）などのさまざまなアルゴリズムを利用します。

OpenAIは、これらのプロセスが特別利益団体による操作、参加の洗い出し、少数派または多数派の過小代表といった失敗モードに対処しなければならないことを認めています。

助成金プログラムの構造と要件

このプログラムは、個人、チーム、または組織に対して、民主的意思決定の概念実証プロトタイプを開発するために10万ドルの助成金を提供します。

参加と成果物

• 参加規模: 各プロトタイプは少なくとも500人の参加者を巻き込まなければなりません。
• オープンソース要件: プロジェクト中に開発されたすべてのコードと知的財産は、オープンソースライセンスの下で公開されなければなりません。
• 報告: 受領者は、調査結果と動作するプロトタイプの公開報告書を発行することが義務付けられています。

レビュー基準

申請は、いくつかの技術的および社会的要因に基づいて評価されます：

• 堅牢性: トロールや偽アカウントを防ぐ能力。
• 包括性: 多様なバックグラウンドとAIへの熟悉度の違いを含めるための戦略。
• 少数派のエンパワーメント: 不人気または少数派の意見が重要な問題に影響を与えることを確保する。
• スケーラビリティ: 対面でのエンゲージメントよりも仮想プロセスを優先する。
• レガビリティとアクション可能性: プロセスを信頼しやすさと、その結果がモデルの動作に適用できる程度。

検討中の政策質問

この助成金は、変更された動作のA/Bテストを可能にするため、モデルの動作に関する政策質問に焦点を当てています。プログラムが奨励する微妙な質問の例を含みます：

• パーソナライズ: AIアシスタントがユーザーの個人的な好みや嗜好にどの程度合わせるべきかの境界。
• 公人: AIが公人の見解に関する質問にどのように応答すべきか（例：中立性 vs. 情報源の提供）。
• 専門的助言: AIが医療、財務、または法的助言を提供すべき条件。
• 表現: 「CEO」などの未指定のプロンプトで画像を作成する際、生成モデルが多様性と均質性をどのようにバランスさせるべきか。
• 文化的配慮: LGBTQや女性の権利など、人権および地域の文化的・法的な違いを含むトピックを扱うための原則。
• コンテンツ制限: AIモデル作成者が制限または拒否すべきコンテンツのカテゴリを決定するための基準。

AGI監督への戦略的含意

このプログラムは、人工一般知能（AGI）および超知能のガバナンスに対する公共の監督を確立するための第一歩として位置付けられています。OpenAIは、これらの初期実験はこの段階での意思決定に拘束力を持たせる意図ではなく、将来の意思決定に情報を提供できる新しい民主的ツールを構築することを目的としていると述べています。ラボは、これらの民主的精神のプロセスを、政府のAI規制の代替ではなく補完として見ています。