Ante:一個獨立且具備離線能力的編碼代理

Ante 是一個獨立的編碼代理,旨在直接在終端機中作為 LLM 的高效能框架運行。Ante 以單一約 15MB 的 Rust 二進位檔形式提供,且無需任何執行時依賴(runtime dependencies),讓開發者可以在頂尖 API 提供商與完全離線的本地模型之間自由切換,而無需註冊帳號或使用 Node.js 或 Python 等外部執行環境。

高效能的資源利用率

Ante 專為極低的資源開銷而設計,採用手寫的 Rust 核心,將關鍵工具(包括自定義版本的 Grep 和 Git)直接嵌入到二進位檔中。這種架構確保了不會因為調用 shell 命令而導致資源洩漏,並讓代理能在單一進程中運行。

根據 Antigma Labs 進行的基準測試,在 Docker 中運行 20 個並行任務時,Ante 與 Claude Code 等競爭對手相比,展現出顯著的效率提升:

  • 峰值記憶體: 使用量降低約 7 倍。
  • 平均 CPU: 使用量降低約 9 倍。
  • 磁碟 I/O: 使用量降低約 5 倍。

原生離線推論與供應商靈活性

Ante 透過開箱即用支援超過 12 種供應商(包括 Anthropic、OpenAI、Google Gemini 和 Grok),消除了供應商鎖定。它允許使用者使用自己的 API 金鑰或使用本地模型。

本地 GGUF 支援

Ante 內建了 llama.cpp 引擎,使其能夠完全離線運行 GGUF 模型。系統會自動處理引擎安裝(針對 Apple Silicon 的 Metal 或 Linux 的 CUDA/Vulkan/CPU 進行優化)、標準快取(如 Hugging Face)中的模型發現,以及基於模型大小的 RAM/VRAM 估算。

使用者可以透過命令列執行離線任務: ante --offline-model /path/to/model.gguf "prompt"

效能基準測試

Ante 的能力透過使用 Terminal-Bench 2.1 進行的持續公開評估得到驗證。最近的結果顯示,雖然像 DeepSeek V4 Flash 0731 這樣的頂尖模型達到了 82.7% 的成功率,但像 Qwen3.6 27B 這樣的本地模型在 445 次測試中的得分為 56.2%。

運行模式與整合

Ante 提供四種不同的運行模式,以適應不同的開發工作流程:

模式 命令 主要使用場景
互動式 TUI ante 標準的日常終端機工作
無頭模式 (Headless) ante -p "..." 單次任務、腳本編寫與 CI/CD 流水線
伺服器模式 (Server) ante serve 透過 JSONL 協定為編輯器外掛和 Web UI 提供支援
閘道模式 (Gateway) ante gateway 將代理整合為 Slack 或 Discord 機器人

架構與開源狀態

Ante 採用客戶端-守護進程 (client-daemon) 架構,客戶端(TUI、Headless 或 Server)與一個負責管理工具、權限和技能的守護進程進行通訊,然後再與 LLM 供應商進行介接。

雖然核心框架目前在私有儲存庫中開發,並在 Alpha 預覽期間以二進位檔形式發布,但 Antigma Labs 已根據 Apache 2.0 授權開源了幾個關鍵組件:

  • docs-site/: 官方文件的原始碼。
  • crates/protocol-shape: ante serve 協定的架構與傳輸訊息。
  • crates/agent-sdk: 用於針對代理執行環境進行開發的 Rust SDK。
  • ante-harbor/: 用於 Terminal-Bench 評估的適配器。

社群見解與評論

在 Hacker News 發布後,社群針對透明度和隱私提出了幾點看法:

"在我看來,將二進位檔發布連結到一個 github repo(但我沒看到與代理相關的原始碼)有點可疑。"

使用者對遙測(telemetry)的「選擇退出 (opt-out)」性質表示擔憂,該功能可以透過設置 ANTE_TELEMETRY=off 環境變數來禁用。其他評論者質疑將 Git 和 Ripgrep 等工具嵌入二進位檔的必要性,而開發者則辯稱,這種優化對於「細胞原生 (cellular-native)」願景至關重要——即數以百萬計的微型、可消耗的代理可以在沒有外部執行環境開銷的情況下進行大規模複製。

Sources

相關

  • 專案
  • 專案
  • 專案
  • Dispatch
  • 專案