OpenAI 民主輸入 AI 獎助計畫更新
OpenAI 民主輸入 AI 獎助計畫更新
OpenAI 已總結其民主輸入 AI 獎助計畫的成果，詳細說明了十個創新專案，並成立了新的「集體對齊」團隊，以將公共意見整合到模型行為中。
OpenAI 民主輸入 AI 獎助計畫更新
OpenAI 已完成其民主輸入 AI 獎助計畫的初始階段，資助了 10 個全球團隊，以開發用於 AI 集體治理的工具與方法。此倡議旨在透過建立可擴展、民主化的公共意見收集與實施流程，將 AI 模型行為與人類價值觀對齊。
民主 AI 治理的創新
OpenAI 向從 113 個國家近 1,000 名申請者中挑選出的 10 個團隊頒發了 10 萬美元的資金。這些團隊結合法律、新聞、社會科學與機器學習等多元專長，打造參與式互動的原型。AI 在這些流程中常被用於協助文字轉錄、資料合成與客製化聊天介面。
獎助專案概述
- AI 政策案例法：建立 AI 互動情境的案例庫，以便參考案例法的判斷，並納入專家與利害關係人的意見。
- 民主政策發展的集體對話：利用集體對話擴大民主審議，並找出政策制定的共識領域。
- 規模化審議：開發 AI 協助的視訊通話，以在小組對話中實現民主審議。
- 民主微調：透過聊天對話引出價值觀，建立「道德圖譜」以進行模型微調。
- Energize AI：打造一個利用即時大規模參與與「社群筆記」式演算法的對齊平台。
- 生成式社會選擇：運用社會選擇理論，將自由文字意見濃縮為簡潔且具代表性的立場清單。
- Inclusive.AI：使用去中心化治理機制（如 DAO）賦能被忽視的族群參與 AI 決策。
- 讓 AI 透明且負責（Rappler）：結合線上與線下流程，促進對複雜且具兩極化議題的討論。
- Ubuntu‑AI：開發平台確保非洲創作作品得到包容性呈現，且貢獻者獲得報酬。
- vTaiwan 與查塔姆研究所：改編 vTaiwan 方法，打造遞迴且互聯的參與式 AI 治理流程。
主要技術與社會學習
此獎助計畫揭示了在收集公共意見以對齊 AI 時的多項關鍵挑戰與洞見。
公共意見的波動性
大眾對 AI 行為的看法可能頻繁變動，甚至日常間都有所不同。這表示意見收集流程必須同時捕捉基本且穩定的價值觀，並具備足夠敏感度以偵測隨時間產生的顯著意見變化。
數位鴻溝與參與偏差
在數位與文化鴻溝之間招募參與者仍是一大挑戰。團隊觀察到線上招募的參與者往往對 AI 更為樂觀，且普遍較支持 AI 模型的行為。此外，語音辨識工具（如 Whisper）在塔加洛語、比尼薩亞語與希利蓋農語等語言上存在技術限制，為 Rappler 團隊的文字轉錄帶來困難。
管理兩極化與多樣性
在兩極化的群體中尋求妥協相當困難，尤其是當少數小群體持有極為強烈的意見時。然而，集體對話團隊發現，他們流程產出的政策指引——包括在疫苗資訊等具爭議性的議題上——在民主黨、獨立派與共和黨之間獲得超過 72% 的支持。
在達成廣泛共識與呈現多元觀點之間始終存在張力。生成式社會選擇團隊運用數學理論突顯關鍵立場，展示多元意見，同時尋求共同基礎。
公共信任與 AI 在治理中的角色
參與者對民主機構與 AI 開發者應賦予 AI 系統的權力持謹慎態度。當 AI 用於提升效率（例如產生政策條款）且搭配非 AI 的決策步驟（如專家審核或最終人工投票）時，信任度較高。
實施與未來方向
OpenAI 正在成立一支由研究人員與工程師組成的「集體對齊」團隊。該團隊負責兩項主要目標：
- 系統實作：設計與實作一套系統，直接將公共對模型行為的意見收集與編碼至 AI 系統中。
- 試點整合：持續與外部顧問及獎助團隊合作，執行試點，將獎助計畫期間開發的原型納入 OpenAI 模型的導向中。