christopherkarani/Swarm
Type-safe tools, on-device inference, multi-agent workflows, memory, and guardrails, in one Swift-native runtime
解决的问题
Swarm 是一个为 iOS、macOS 和 Linux 构建生产级 AI 代理的 Swift 原生代理运行时。它提供了一种类型安全的方式来集成工具、管理内存,并编排复杂的代理工作流,同时利用 Swift 6.2 确保严格的并发安全性。
工作原理
Swarm 使用可插拔的 InferenceProvider 系统,使代理能够在 Apple Foundation Models 上进行本地设备推理,或连接到 Ollama、LM Studio、OpenAI、Azure 和 OpenRouter 等外部提供者。它采用 @Tool 宏在编译时从 Swift 类型生成工具模式,确保类型安全。代理可以组合成 Workflow 对象,创建顺序、并行或路由执行路径。
适用人群
需要管理代理行为、工具使用和本地机器学习的 Swift 开发者,用于在 Apple 平台或 Linux 上构建 AI 应用程序。
主要亮点
- 多平台支持:在 iOS、macOS 和 Linux 上运行。
- 本地设备推理:与 Apple Foundation Models 原生集成。
- 可组合的工作流:支持顺序、并行和路由的代理链。
- 类型安全的工具:通过 Swift 宏在编译时生成模式。
- 生产级功能:包含防护机制、流式传输、持久执行(检查点/恢复)和 OpenTelemetry 可观测性。
- MCP 支持:能够发现并桥接 Model Context Protocol 工具。
相关
- 项目
- 项目
- 项目
- 项目
- 项目