MORTEN-BUUR/nordef-matrix-open-control

解決的問題

本專案為AI代理提供了一種與模型無關的「安全帶」，防止其追求非預期的捷徑、建立未授權的通訊通道或偽造工具呼叫。解決了僅靠系統提示無法作為代理安全的可靠執行邊界這一問題。

工作原理

系統在語言模型外部部署一個決定性控制平面。不依賴模型遵循指示，而是透過獨立層決定哪些操作可以繼續。它採用Ed25519簽署的指令（授權）、一次性隨機數實現的防重放保護，以及僅可追加的SHA-256證據鏈，確保人類權威始終位於模型文字之外。

適用對象

需要以決定性、與模型無關的方式強制執行安全策略，並為敏感操作要求加密人類授權證明的AI代理開發者與研究人員。

主要亮點

• 與模型無關： 無論使用何種模型或供應商，均可正常運作。
• 加密授權： 使用帶短TTL的簽署指令，確保僅授權操作可執行。
• 與事故相關： 包含基於事故模式的評估庫，用於測試安全邊界。
• 決定性決策： 使用簡單的0/1/2狀態系統，將請求分類為只讀、需審查或被阻止。
• 不可變證據： 維護經過清洗的、僅可追加的雜湊鏈，以確保可審計性。