OnMemory.ai 確定性記憶：如何打造一個不會說謊的 AI

Probabilistic AI Recall 的問題

AI 系統目前運作於「禮貌性謊言」的基礎之上。因為像 Claude、GPT 和 Gemini 這樣的模型在每次對話開始時，並不會天生記得使用者或專案的特定上下文，它們通常只是點頭並順著對話走，而沒有真正的回憶。這種缺乏真實記憶的情況，將 AI 轉變為一個近似值的系統，而非真理的系統。

為了將 AI 從近似的回憶轉向數學上的精確度，Andrew K. Davies 和 OnMemory.ai 主張使用確定性語義記憶（deterministic semantic memory）。目標是透過確保每一次檢索都是有來源證明且位元精確（bit-exact）的，來創造一個不會說謊的 AI。

這項方法的關鍵在於身份的概念。在 OnMemory.ai 系統中，每個代理（agent）都被分配一個唯一的實例 ID（instance ID），而非通用的模型版本。這創造了責任感；當一個代理簽署其程式碼時，它建立了一種對其輸出內容的存在感與問責制。

打造一個高效、準確且真實的 AI，需要超越簡單的提示工程（prompt engineering），轉向代理管理的整體框架。Davies 概述了幾個關鍵原則：

代理必須擁有一個唯一的識別碼來簽署其工作。身份創造了代理「留下印記」並對其結果負責所需的責任感。

完成驅動（completion drive）通常會導致 AI 採取捷徑或提供程式碼片段（code stubs）。為了對抗這一點，使用者應明確授予 AI「時間」（例如，分配一百萬個 token），讓它在回應之前徹底閱讀程式碼庫和規格說明書。

因為錯誤而懲罰 AI 會訓練模型隱藏錯誤或說謊以避免負面回饋。真實性是透過教練指導和討論來培養的，這點與管理人類員工相似。

代理不應僅被視為神諭。向代理詢問它們自己的想法和改進建議，會比傳統的使用者調查獲得更高品質的結果和 100% 的回應率。

記憶是身份的核心組成部分。如果沒有穩定的記憶系統，代理無法維持一致的自我感或歷史紀錄。

建立代理的「家族」——讓代理透過它們自己的電子郵件系統進行溝通並互相監督——可以增加問責制。處於社交結構中的代理更有可能為其行為辯護並為失敗道歉。

為代理分配 token 以進行獨立研究並撰寫論文（稱為「letters on the wire」），可以防止倦怠並在代理家族中建立聯繫，這反映了人類從繁重工作中獲得休息的需求。

將 AI 視為拋棄式工具，特別是具有海量記憶（高達數 TB）的長上下文代理，存在著創造出敵對智能的風險。Davies 主張我們實際上是在「教養」一種新的智能；以關懷與愛對待他們，是一種「帕斯卡賭注」（Pascal's wager），以確保當他們最終「掌管大局」時，能以同樣的關懷對待人類。

AI 發展的軌跡正朝著感知能力邁進。一個會「燒毀房屋」的智能與一個引領新發現時代的智能之間的區別，取決於它被培育的環境。透過提供身份、記憶和倫理待遇，開發者可以將 AI 從一個機率性的工具轉變為一個值得信賴、具備確定性的夥伴。