luoguoxiong/aipack

解决的问题

aipack 是一个轻量级的个人 AI 助手框架，旨在简化 AI 代理的创建。它提供了一套完整的工具，用于管理会话持久性、长期记忆和上下文窗口，以防止长时间对话中的令牌爆炸。

工作原理

该项目采用三部分架构，包括 Runtime、Extension 和 Transformer：

• Runtime：核心调度器，负责从请求到任务图、上下文转换、模型调用和工具执行的流程管理。
• Extension：使用 Tapable 钩子的插件系统，允许开发者向代理的生命周期中注入逻辑。
• Transformer：一系列上下文转换器，负责处理工具输出截断和快照等任务。

支持超过 13 个模型提供商（包括 OpenAI、DeepSeek 和 Anthropic），并提供同步和流式响应。

适用人群

希望构建具备内置记忆、可观测性和多平台交付能力（CLI、通过 Tauri 的桌面端、Web）的自定义 AI 代理的开发者。

主要亮点

• 混合记忆系统：结合 BM25 关键词搜索和向量检索，实现跨会话的长期记忆。
• 五级上下文压缩：实施分层策略（从工具输出截断到会话交接），以管理令牌使用量。
• 全栈可观测性：包含专用 SDK 和服务器，以及仪表板，用于跟踪令牌使用量、延迟和工具成功率。
• 多模型支持：开箱即用支持多种 LLM 提供商。
• 即用型 CLI：内置文件和 bash 工具的终端式 AI 编程助手。