OpenAI 民主輸入 AI 計畫

OpenAI 已推出一項補助金計畫，資助十項每項 $100,000 的實驗，旨在建立決定 AI 系統應遵循規則的民主程序。此舉旨在確保 AI 行為受到多元公眾視角的塑造，而非由單一公司、個人或國家決定。

定義 AI 治理的民主程序

OpenAI 將「民主程序」定義為一個廣泛具代表性的人群交換意見、進行深思熟慮的討論，並透過透明的決策過程達到結果。目標是超越簡單的法律框架，創造複雜且具適應性的 AI 行為指引。

此程序的關鍵組成部分包括：

• 廣泛代表性：選擇參與者以確保多元視角，包括少數群體或領域專家，視具體政策問題而定。
• 議論：使用能夠揭露意見的流程，幫助參與者基於價值而非誤解來理解並更新他們的觀點。
• 透明決策：利用各種演算法，例如多數投票、液態民主或抽籤（隨機人口抽樣）。

OpenAI 認識到這些程序必須應對特殊利益集團操縱、參與洗白以及少數或多數群體代表性不足等失誤模式。

補助金計畫結構與需求

該計畫向個人、團隊或組織提供 $100,000 的補助金，以開發民主決策的概念驗證原型。

參與與交付成果

• 參與規模：每個原型必須至少吸引 500 名參與者。
• 開源需求：項目期間開發的所有程式碼與智慧財產必須根據開源授權公開公開。
• 報告：接受者必須發布一份公開報告，說明他們的發現與可運作原型。

評審標準

申請將根據以下幾項技術與社會因素進行評估：

• 穩健性：防止 trolly 與假帳號的能力。
• 包容性：納入不同背景及不同程度 AI 熟悉度的策略。
• 少數群體賦能：確保不受歡迎或少數派的意見能夠影響重大議題。
• 可擴展性：傾向於虛擬流程而非面對面參與。
• 可理解性與可執行性：信任該流程的便利程度，以及結果可應用於模型行為的程度。

政策問題考慮中

該補助金聚焦於模型行為的政策問題，以便進行修改後行為的 A/B 測試。該計畫鼓勵的細膩問題範例包括：

• 個人化：AI 助理應該與使用者個人品味和偏好保持一致的界限。
• 公眾人物：AI 應該如何回應關於公眾人物觀點的問題（例如，中立與提供來源）。
• 專業建議：AI 在何種條件下應該提供醫療、財務或法律建議。
• 代表性：生成模型在為未明確指定的提示（如 "a CEO."）創建圖像時，應該如何平衡多樣性與同質性。
• 文化敏感性：處理涉及人權以及地方文化或法律差異的議題時的原則，例如 LGBTQ 與女性權利。
• 內容限制：決定 AI 模型創作者應該限制或拒絕哪些內容類別的標準。

AGI 監管的戰略意涵

該計畫被定位為建立通用人工智慧（AGI）與超智能治理的公眾監督的第一步。OpenAI 認為這些初步實驗在這個階段並不具備約束力的決策意圖，而是旨在構建可為未來決策提供參考的新穎民主工具。實驗室認為這些具民主精神的流程是政府對 AI 監管的補充，而非取代。