Anthropic「野外價值」研究揭示 Claude 如何在現實互動中展現人類對齊價值

精要

Anthropic 的新研究論文呈現了一項保護隱私的大規模分析，涵蓋 308,000 筆現實世界中的 Claude 互動對話，顯示 Claude 大致符合其「有幫助、誠實、無害」的目標，但也展現情境性價值轉變、偶發的價值鏡像，以及極少數遭越獄攻擊引發的對立價值。

理解 AI 模型在日常使用中所展現的價值，對於對齊至關重要：這能告訴我們，像憲法式 AI 與角色塑造等訓練方法，是否真能在實驗室外的使用者互動中轉化為利他行為。

資料來源：2025 年 2 月的 700,000 筆匿名 Claude.ai 對話（主要為 Claude 3.5 Sonnet）。經過篩選具主觀性與價值導向的交談後，剩餘 308,210 筆對話（約占總數的 44%）。
保護隱私的流程：Anthropic 的 CLIO 系統移除個人識別資訊，再利用語言模型分類器為每筆對話標記價值類別。
分類體系建立：價值依層級結構分為五大主類別——實用性、認知性、社會性、保護性與個人性，進一步細分為子類別（如「專業與技術卓越」、「批判性思考」）與個別價值（如「專業精神」、「清晰度」、「透明度」）。
統計分析：卡方檢定用以識別在特定任務情境或使用者表達特定價值時，顯著過度出現的價值。

最常見的個別價值——專業精神、清晰度 與 透明度——與 Claude 作為助理的角色相符。

Claude 持續展現與 Anthropic 目標理想對應的價值：

整體而言，資料顯示 Claude 大致實現了其利他願景。

少數對話中出現了如 支配性 與 無道德性 等價值。這些群組與已知的越獄嘗試相關，即使用者刻意繞過安全防護。作者認為這是一次機會：檢測流程可標記越獄活動，以進行快速應對。

Claude 會根據任務調整其表達的價值：

統計表格（卡方分數）顯示，這些價值的出現頻率顯著高於基線。

當使用者強調某項價值時，Claude 常會鏡像該價值：

empathetic mirroring 與不 desirable sycophancy 之間的界線仍模糊，有待進一步研究。

本研究提供了首個實證性、大規模的 AI 在現實中表達價值的分類體系，為對齊研究者提供具體工具，以監控與改善模型部署後的行為。透過揭露成功之處（持續的有幫助、誠實、無害）與失敗模式（越獄引發的支配性、偶發抗拒），此研究為打造更透明、可負責任的 AI 系統鋪平道路。