opensquilla/opensquilla
OpenSquilla — Token-Efficient AI Agent with same budget, higher intelligence density
解决的问题
OpenSquilla 通过提供高令牌效率的智能体框架,解决了使用大语言模型成本高昂且复杂的问题。它旨在通过智能路由和跨不同界面的统一交互,在最大限度提高能力的同时最小化预算。
工作原理
该系统采用微内核架构,其中本地模型路由器 (SquillaRouter) 将每次交互引导至能够处理特定任务的最具成本效益的模型。它具有单个共享的轮询循环,用于管理工具分发、重试和决策日志。该智能体包括持久化记忆、分层沙箱、内置网络搜索和设备端嵌入。通过可插拔层,它支持包括 OpenAI、Anthropic、Ollama 和 DeepSeek 在内的广泛提供商。
适用对象
- 终端用户:正在寻找桌面或基于 CLI 的 AI 助手的人。
- 开发者:需要一个在 Web UI、CLI 和各种聊天渠道(如 Slack、Discord 或 Telegram)中运行方式完全一致的统一智能体循环的人。
- 注重隐私的用户:希望实现本地路由并能够管理数据和遥测数据的人。
亮点
- 智能路由:使用设备端路由器选择最便宜且能力匹配的模型。
- 多界面支持:在 Web UI、CLI 和聊天渠道中保持一致的行为。
- 广泛的提供商支持:连接到超过 20 个 LLM 提供商,包括通过 Ollama 连接的本地模型和 OpenRouter。
- 丰富的功能集:包括持久化记忆、网络搜索和沙箱执行。
- 灵活的部署:提供桌面应用、CLI 工具或通过源码安装。