fajarhide/omni

Noise-canceling context and long-term memory for your AI agent. Stop paying Claude to read 10,000 lines of terminal noise like a headphone for AI agent

What it solves

OMNI 旨在阻止 AI 程式碼助理在「終端噪音」上浪費 token 與預算——這些由 npm install、docker build 等指令產生的成千上萬行不相關日誌、進度條與樣板輸出。它同時解決「AI 健忘症」問題，當會話重新啟動或在不同 AI IDE 之間切換時，代理會失去專案上下文、目標與先前解決的錯誤。

How it works

OMNI 充當終端執行的本地攔截器。它使用決定性的管線（Read → Guard → Score → Collapse → Distill → Persist）過濾噪音，只保留關鍵訊號（例如錯誤與堆疊追蹤）。

主要元件包括：

  • Content Distiller：在保留關鍵資訊的同時減少輸出量。
  • RewindStore：本地 SQLite 資料庫，儲存完整的原始日誌。若 AI 代理需要原始噪音，可透過雜湊值取回。
  • Memory OS：持久層，允許使用者設定長期目標（omni goal）並透過語意搜尋保存專案特定規則或修正（omni remember）。

Who it’s for

使用 Claude Code、Cursor、Windsurf、Roo Code、OpenAI Codex 或 Antigravity CLI 等代理式 AI 程式碼工具的開發者，想要降低 API 成本、加快回應速度，並在多個會話間維持持久上下文。

Highlights

  • Token Reduction：在某些情況下，可將送入模型的位元組減少最高 85%，尤其在 git、cargo 等噪音較大的工具上。
  • Cross-Session Memory：自動將會話摘要與專案目標注入新代理會話，避免重複說明專案。
  • MCP-compatible：以 Rust 實作，具高效能與低延遲。
  • Fail-Open Design：若工具發生 panic，會直接傳遞原始輸出，確保主代理不會崩潰。
  • Customizable：使用者可透過 TOML 設定檔新增自訂噪音過濾器。