luoguoxiong/aipack

解決的問題

aipack 是一個輕量級的個人 AI 助手框架，旨在簡化 AI 代理的建立。它提供一整套工具，用於管理會話持久性、長期記憶和上下文視窗，以防止長時間對話中的 Token 爆炸。

工作原理

此專案採用三部分架構，包含 Runtime、Extension 和 Transformer：

• Runtime：核心排程器，負責從請求到任務圖、上下文轉換、模型呼叫和工具執行的流程管理。
• Extension：使用 Tapable 鈎子的外掛系統，允許開發者向代理的生命週期中注入邏輯。
• Transformer：一系列上下文轉換器，負責處理工具輸出截斷和快照等任務。

支援超過 13 個模型提供者（包括 OpenAI、DeepSeek 和 Anthropic），並提供同步與串流回應。

適用對象

希望建構具備內建記憶、可觀測性與多平台交付能力（CLI、透過 Tauri 的桌面端、Web）的自訂 AI 代理的開發者。

主要亮點

• 混合記憶系統：結合 BM25 關鍵字搜尋與向量檢索，實現跨會話的長期記憶。
• 五級上下文壓縮：實施分層策略（從工具輸出截斷到會話交接），以管理 Token 使用量。
• 全棧可觀測性：包含專用 SDK 與伺服器，以及儀表板，用於追蹤 Token 使用量、延遲與工具成功率。
• 多模型支援：開箱即用支援多種 LLM 提供者。
• 即用型 CLI：內建檔案與 bash 工具的終端式 AI 程式設計助手。