對齊，而非配置：重新思考 AI 對齊作為一個相互的過程
當前圍繞 AI 對齊的論述通常被框架化為一種二元選擇：我們是優先考慮安全性（「末日論者」）還是加速（「e/acc」群體）？在這場激烈的辯論中，焦點仍然集中在如何最好地「配置」AI——如何安裝正確的價值觀、如何衡量對這些價值觀的遵循程度，以及如何確保系統不會偏離預定義的路徑。
然而，這種框架忽略了一個根本事實：那些生活受這些系統影響最深的人，很少是設計對齊協議的人。當我們將對齊視為一個技術配置問題時，我們冒著將人類經驗轉化為統計代理指標的風險，實際上是在為人們設計，卻從未與人們共同設計。
配置哲學
大多數 AI 實驗室都在所謂的「配置哲學」下運作。在這種模式下，對齊被視為一條單行道：價值觀從人類設計者流向 AI 系統。目標是在系統中安裝可被衡量和驗證的傾向性。
這種方法導致了一個封閉迴路的評估系統。正如 Anthropic 等實驗室最近的方法論所示，該過程通常涉及一個模型生成數據，另一個模型對其進行提示，而第三個模型則對輸出進行評判。雖然這在技術上是高效且具擴展性的，但它創造了一個與實際人類經驗完全脫節的機制。對齊過程中的「我們」變成了一個統計代理指標——一組受僱評分員的意見被提煉成獎勵函數。
智能的相互雕琢
真正的對齊不是人類對 AI 「做」的事情；它是發生在兩方「之間」的事情。作者建議，人類與 AI 之間的互動更像是雕琢濕黏土，而不是向工具發出指令。
在這種相互的過程中，塑造是互惠的：
- 系統會反饋： AI 的回應往往會偏離目標，或者顯現出意想不到的模式，迫使人類重新審視其原始意圖。
- 人類會調整： 當我們與這些系統互動時，我們自己的習慣、思維和工作流程也會發生變化。
正如一位社群成員所指出的，這種轉變往往是無形的：
"回頭看，我的提示詞（prompts）並沒有改變得那麼多，改變的是我工作的方式。"
當我們認為自己只是在「變得更擅長提示」時，我們實際上正在經歷一種相互適應。配置哲學使這種人類演化變得無形，將人類視為固定點，而將 AI 視為唯一的變量。這是一個危險的遺漏，因為它忽略了 AI 如何正在積極地塑造人類的認知和代理能力。
當前範式的風險
當對齊被簡化為配置時，產生的系統可能會變得疏離。一些用戶報告了一種自己的思維變得「機器化」的感覺，即人類僅僅充當了 AI 互相交談的媒介。
此外，「安全性 vs. 加速」的辯論往往掩蓋了一個更深層的共識：即一小部分精英設計者應該決定全人類的命運。無論是呼籲採取極端措施來防止失控的 AI，還是將被取代的勞動力視為「憤怒的」，雙方往往都將一般大眾視為被操作的材料，而非過程中的合作夥伴。
邁向參與式對齊
如果我們要超越「配置」模式，我們我們必須認識到，許多人對 AI 的不安感並非個人適應能力的失敗，而是設計過程具有排他性的信號。
邁向一個真正對齊的未來需要：
- 肯定生活經驗的價值： 承認實際用戶以及被 AI 取代的那些人，才是關於對齊真理的主要來源，而不僅僅是實驗室內部的代理指標。
- 拒絕二元論： 超越「安全性 vs. 加速」的辯論，轉而詢問「誰」在決定價值觀時身在於場。
- 擁抱相互的改變： 接受我們將被我們構建的技術所改變，並專注於如何自覺地而非被動地引導這種轉型。
對齊不應該是一組強加於機器以使其對人類安全的約束條件。相反，它應該是一個共同發現的協作過程——一種讓人類與 AI 共同演化成某種單獨雙方都無法實現的目標。