Gnosil/semantix
semantic agent kernel which make agent efficient and self-evolve
解决的问题
Semantix 解决了 AI 编码代理的两个主要问题:会话间上下文丢失,以及 LLM 提供商前缀缓存的高成本/低效率。大多数代理在会话结束后会忘记所有内容,而标准的提供商缓存经常失效(导致账单增加),因为提示开头的单个字符变化就会使整个缓存失效。
工作原理
Semantix 提供一个“记忆内核”,可作为独立的 CLI 代理(semantix-agent)使用,也可通过工具、网关或技能附加到现有代理(如 Claude Code 或 LangChain 应用)中。它通过以下机制工作:
- 跨会话记忆:从已完成的会话中提取可重用的“切片”(任务模式、项目知识、工具序列),存入本地库,并在新会话中出现类似任务时重新注入。
- 前缀净化:移除每次请求的归属标记,并对工具数组进行规范化,确保提示在字节级别完全一致,从而最大化提供商端缓存的命中率。
- 字节稳定注入:检索到的记忆切片按 ID 而非分数排序,以保持一致的提示前缀。
- L3 结果复用:经过验证的结果可直接返回,无需发起新的模型调用。
- 自适应调度:学习工具使用模式,实现调用并行化,并预取只读上下文。
适用人群
希望降低 API 成本、提升响应速度,并确保代理在不同会话间保留项目特定知识的开发者。
主要亮点
- 高缓存命中率:在某些提供商(如 DeepSeek)上实测高达 99.8% 的命中率。
- 成本降低:在合成回放对比中报告最高达 79.8% 的成本节省。
- 灵活集成:可作为网关(无需代码变更)、工具注册或特定代理技能集成。
- 提供商感知:包含供应商功能表和各供应商缓存生命周期追踪,以优化断点位置。
相关
- 项目
- 项目
- 项目
- 项目
- 项目