Stanford CS547 HCI Seminar：邁向 AI 與計算的本體多樣性

Stanford CS547 HCI Seminar: Toward Ontological Multiplicity in AI and Computing

核心論點：邁向本體多樣性

技術系統並非中立；它們編碼了「本體邊界」——關於事物是什麼以及其邊界所在的假設。當這些邊界被固定且自然化時，就會限制人們的想像與設計空間，往往強化狹隘、主導的現實。本體多樣性是揭露、質疑與擴展這些邊界的實踐，旨在創造能容納多種、同等真實存在方式的 AI 與計算系統。

嵌入式本體假設的危險

本體邊界充當「切割」(取自物理學家 Karen Barad 的術語)，將抽象現象分為內部與外部。當設計師與開發者在不自覺的情況下劃定這些邊界時，就會把特定的世界觀編碼進演算法，進而成為所有使用者的預設現實。

「無根樹」範例

為了說明這點，Nava Haghighi 描述了讓大型語言模型 (LLM) 產生樹的圖像的過程。儘管使用者心中的樹包含根部，LLM 卻始終產出沒有根的樹。即使在提示中提及使用者的伊朗血統，模型仍產生刻板的意象（沙漠景觀、波斯地毯），卻仍無根。只有當提示轉向哲學假設——「世界上的一切皆相連」——時，LLM 才生成帶根的樹。這顯示 LLM 會被特定本體預設所引導，除非明確說明，否則其他觀點會被隱蔽。

解構邊界：「紫色區域」

擴展本體可能性的一種方法是關注「本體故障」——先前固定的邊界消解的瞬間。

可測量的人類

在情感計算中，電皮膚活動 (EDA) 被用來透過皮膚電導測量壓力。研究者通常將人分類為「回應者」或「非回應者」。未達到特定基線的人往往被排除在研究之外，實際上被視為「看不見」。這形成了一個「可測量的人類」的本體邊界：一個有界、理性的個體，具備客觀、可偵測的屬性。

紫色區域體驗

作為非回應者的 Haghighi 在一次情緒高度激昂的會議中突然成為回應者，發現了一個「故障」——她進入了本體模糊的狀態，稱為「紫色區域」。她建立了一個即時生理回饋系統，當使用者進入此區域時會發出通知，觀察到參與者自我感知的多項轉變：

  • 從分類到關係性： 使用者不再將自己視為孤立的個體，而是作為關係單位的一部分（例如，與朋友共享的「紫色賓客」）。
  • 從控制到培養： 使用者不再試圖強迫生理回應，而是著重於創造可能導致此狀態的條件（如特定活動）。
  • 從精確度到關懷下的演算法精準度： 目標從精確呈現客觀屬性轉變為提供「本體開放」的可能性。

透過使用者創作協商邊界

並非每個人都會經歷故障，Haghighi 因此提出「邊界協商」：給予使用者在感測系統中自行定義類別的工具。

探測邊界

採用「Wizard of Oz」方式繞過現有技術限制，Haghighi 測試了兩種探測工具：

  1. 事件標記器： 使用者從 lived experience（感受或狀態）出發，逐步映射到資料。
  2. 模式尋找器： 使用者從原始資料（心率/能量）出發，逐步探索其意義。

協商發現

參與者利用這些工具協商了多種邊界：

  • 現象邊界： 一位使用者將「散步」類別拆分為「探索散步」與「放鬆散步」，依據其內在狀態。
  • 主體邊界： 追蹤跑步的使用者發現自己其實在測量「人與狗」的結合體。
  • 訊號與噪音： 使用者將心率資料的缺口標記為非感測器失效（噪音），而是作為審核演算法行為的方式。
  • 資料的客觀性： 使用者尋求關係性的意義（例如，將自己的活動與伴侶比較），而非絕對值。

揭露本體邊界的框架

為系統性辨識嵌入式假設，Haghighi 發展了四個分析取向：

  1. 多樣性 (Multiplicity)： 系統是否承認多種存在方式？
  2. 根基性 (Groundedness)： 假設根植於何處？
  3. 活性 (Liveness)： 邊界是否能隨時間演變？
  4. 實踐 (Enactments)： 系統如何主動構建其聲稱測量的實體？

應用於 LLM 與代理人

將這些取向套用於當前 AI，可見重大缺口：

  • LLM 輸出： 即使 LLM 承認「人類」的多元文化定義，仍幾乎總是預設人類是根本的生物個體。只有透過明確的非西方哲學提示，才會將人類呈現為相互關聯的網絡。
  • 代理人架構： 如「生成式代理人」之類的系統假設認知僅發生於個體心智內。共生的本體觀則會基於集合體（例如微生物群或集體記憶）設計智慧，而非孤立的個體。

AI 設計的未來方向

展望未來，Haghighi 建議在 AI 開發流程中做出以下幾項轉變：

  • 資料 (Data)： 使用小規模、受限的資料集，透過「細讀」與關懷來理解本體運作。
  • 架構 (Architecture)： 去中心化使用者模型，將關係視為基礎單位，而非中心人物的屬性。
  • 元設計 (Meta‑Design)： 探索生成其他系統（程式碼／介面）的 AI 如何再現「無根」本體假設，並思考能否透過高層原則（如「培養勝於控制」）加以轉變。

Sources