juyterman1000/entroly
Compress tool outputs, logs, files, conversations, and RAG context before they reach the model. On measured workloads, Entroly reduces unnecessary tokens by up to 90% while preserving answer-critical evidence through budget-aware selection, content-addressed recovery, and auditable Context Receipt. Works with Claude, Chatgpt/Codex,Openclaw.
解决的问题
Entroly 是一个专为管理发送给 AI Agent 的信息而设计的“Context OS”,旨在防止由于上下文窗口溢出导致 Agent 崩溃或成本过高。它解决了“失控会话(runaway sessions)”问题(即自主循环不断追加日志直到提供商拒绝请求),并确保在为了节省 Token 而压缩上下文时,最重要的证据能够被保留并保持可恢复状态。
工作原理
Entroly 作为位于 AI Agent 和 LLM 提供商之间的本地可观测性和决策层。它结合使用 BM25、熵评分(entropy scoring)、SimHash 去重和依赖图,在特定的 Token 预算下对价值最高的证据进行排序和选择。
核心机制包括:
- 可恢复的压缩 (Recoverable Compression):通过内容寻址句柄在本地保留被省略文本的原始版本,允许 Agent 在需要时检索精确的数据块。
- 代理卫士 (Proxy Guard):当用作代理时,它会监控传出请求,并在“实时区域(live zone)”中压缩重复的工具输出,同时保留结构化元数据和错误。
- WITNESS:一个本地验证系统,无需额外的模型调用即可根据提供的证据检查模型回答。
- 稳定前缀 (Stable Prefixing):它维护稳定的系统和历史字节,以保护原生提供商的缓存边界,减少冗余处理。
适用对象
使用 Claude Code、Cursor、Aider 或自定义 MCP 客户端等工具的 AI Agent 开发者和企业团队,他们需要降低 API 成本、防止会话崩溃,并保持模型实际阅读内容的审计追踪。
亮点
- 本地优先架构:使用 Python(可选 Rust 加速)或 Node/WASM 在本地运行。
- 全面的工具链:提供 CLI、SDK、MCP 服务器和 Proxy,以便灵活集成。
- 证据收据 (Evidence Receipts):生成关于包含内容、省略内容以及每个选择相关的潜在风险的详细报告。
- 多提供商支持:兼容 OpenAI、Anthropic、Gemini 以及 Ollama/LM Studio 等本地提供商。