TokenRhythm/opensquilla

OpenSquilla — Token-Efficient AI Agent with same budget, higher intelligence density

OpenSquilla – 一個節省 token 的微型核心 AI 代理

它是什麼 – OpenSquilla 是一個可在本機執行的 AI 代理框架，會將每個使用者的互動導向成本最低且能處理請求的 LLM。它結合了輕量級的本機模型路由（SquillaRouter）、持久記憶體、沙盒化的工具層、內建的網路搜尋與本機嵌入，全部整合在單一「回合循環」中。相同的循環支援桌面 GUI、CLI 與聊天頻道整合，因此無論以何種方式與代理互動，行為皆完全一致。

為何重要 – 透過自動挑選每回合最經濟的模型，OpenSquilla 在維持功能的同時降低 token 消耗。路由模組還支援多模型集成，作者聲稱此技術表現優於「Fable 5」基準。

主要元件

元件	功能
SquillaRouter	本機路由模組，決定呼叫哪個 LLM（支援 ONNX Runtime、LightGBM 等）
提供者層	為超過 20 種 LLM 提供者提供統一 API（TokenRhythm、OpenRouter、OpenAI、Anthropic、Ollama、Gemini、Qwen/DashScope 等）
持久記憶體	跨會話儲存長期上下文
分層沙盒	隔離工具執行與重試，確保工具使用的安全性
內建網路搜尋與嵌入	支援檢索增強生成，無需外部服務
控制主控台	以 Vue 為基礎的網頁介面，封裝於 Electron 外殼中，適用於桌面使用

安裝方式（任選其一）

桌面安裝程式 – 預先建置的 .dmg（mac Apple Silicon）或 .exe（Windows），內含 Vue 主控台與所有原生執行環境。無需 Git 或 Node。

快速終端安裝 – 推薦所有作業系統使用。使用 uv Python 套件管理員，從 GitHub 發行版本安裝 wheel：

uv tool install --python 3.12 "opensquilla[recommended] @ https://github.com/TokenRhythm/opensquilla/releases/download/v0.5.4/opensquilla-0.5.4-py3-none-any.whl"
opensquilla onboard
opensquilla gateway run

從原始碼安裝 – 克隆程式庫（Git LFS 會下載模型資源），執行提供的 scripts/install_source.sh/.ps1，該腳本會建置 Vue UI、安裝相依性，並註冊 opensquilla 命令。
從原始碼開發 – 適用貢獻者。使用 uv sync 建立可編輯的本機環境，再執行 uv run opensquilla …。

注意 – 路由模組需要原生執行環境（Windows 上的 ONNX Runtime，macOS 上的 libomp）。桌面安裝程式已內建這些元件；終端安裝可能需要手動安裝 Visual C++ 重新分發套件（Windows）或執行 brew install libomp（macOS）。

常見工作流程

# 設定代理（僅需一次）
opensquilla onboard          # 建立設定檔、產生 install_id，並執行隱私權告知提示

# 啟動閘道（長時間執行的處理回合的程序）
opensquilla gateway run

# 透過 CLI、Web UI 或連接的頻道（Slack、Discord、Matrix 等）互動
opensquilla chat "總結最新的 AI 安全新聞"

閘道將執行：

接收使用者的回合。
問詢 SquillaRouter 哪個提供者能在 token 預算內回應。
呼叫選定的 LLM，可選擇以檢索到的網路結果或嵌入資料增強提示。
將回合儲存至持久記憶體，並記錄路由決策。
將回應返回至原始介面。

支援的整合（開箱即用）

Feishu、Telegram、DingTalk、QQ、WeCom、Slack、Discord
可選功能：Matrix（支援可選端對端加密）、透過 WeasyPrint 產生 PDF 等

隱私與遙測

OpenSquilla 在首次啟動及每日一次傳送偽名遙測：安裝 ID（雜湊後的 MAC/IP）、版本、作業系統、token 使用量總計，以及安裝方式。不會傳輸內容、API 金鑰或個人識別資訊。可透過以下方式停用遙測與自動更新檢查：

[privacy]
disable_network_observability = true

或使用舊版環境變數 OPENSQUILLA_TELEMETRY_DISABLED / OPENSQUILLA_UPDATE_CHECK_DISABLED。

授權與社群

授權：Apache 2.0（開放式，允許商業使用）。
文件：程式庫內包含產品指南、CLI 參考文件，以及一篇技術報告（arXiv 2607.11399）。
發行狀態：0.5.4（穩定版）。持續開發由 main 分支追蹤；CI 標籤顯示自動化測試狀態。
支援：可在 GitHub 提交問題；網站 opensquilla.ai 提供報告、文件與聯絡資訊連結。

哪些人可能受益？

開發者：希望擁有本機執行、成本意識的 LLM 代理，無需自行串接獨立路由。
產品團隊：需要單一二進位檔，可在 Windows/macOS/Linux 上運作，並提供現成的桌面 UI。
資料隱私要求嚴格的團隊：因核心路由與記憶體皆保留在本機。
研究人員：對「代理路由」與附隨技術報告中描述的資料飛輪概念感興趣。

快速上手清單

安裝 uv（或若從原始碼建置，需 Python 3.12+ 與 Node 22.12+）。
選擇安裝方式（桌面安裝程式或 uv tool install）。
執行 opensquilla onboard 以產生設定檔。
使用 opensquilla gateway run 啟動閘道。
透過 opensquilla chat 互動，或開啟 http://localhost:… 的網頁介面。

總結：OpenSquilla 是一個真實、具生產力的 AI 代理平台，專注於節省 token 的路由、統一介面與本機隱私。文件完整、跨平台，並以開放式授權釋出。