christopherkarani/Swarm

Type-safe tools, on-device inference, multi-agent workflows, memory, and guardrails, in one Swift-native runtime

解決的問題

Swarm 是一個為 iOS、macOS 與 Linux 建構生產級 AI 代理的 Swift 原生代理執行環境。它提供一種類型安全的方式來整合工具、管理記憶體,並協調複雜的代理工作流程,同時利用 Swift 6.2 確保嚴格的併發安全性。

工作原理

Swarm 使用可插入的 InferenceProvider 系統,讓代理能在 Apple Foundation Models 上進行本機設備推論,或連接到 Ollama、LM Studio、OpenAI、Azure 與 OpenRouter 等外部提供者。它採用 @Tool 宏在編譯時從 Swift 類型生成工具模式,確保類型安全。代理可組合成 Workflow 物件,建立順序、平行或路由的執行路徑。

適用對象

需要管理代理行為、工具使用與本機機器學習的 Swift 開發者,用於在 Apple 平台或 Linux 上建構 AI 應用程式。

主要亮點

  • 多平台支援:可在 iOS、macOS 與 Linux 上運行。
  • 本機設備推論:與 Apple Foundation Models 原生整合。
  • 可組合的工作流程:支援順序、平行與路由的代理鏈。
  • 類型安全的工具:透過 Swift 宏在編譯時生成模式。
  • 生產級功能:包含防護機制、串流、持久執行(檢查點/恢復)與 OpenTelemetry 可觀測性。
  • MCP 支援:能發現並橋接 Model Context Protocol 工具。

相關

  • 專案
  • 專案
  • 專案
  • 專案
  • 專案