asdecided/WayfinderRouter

Simple CLI tool for deterministic routing of queries between local and hosted LLM models

解决的问题

Wayfinder 为开发者提供了一个统一的本地端点,用于访问多种 AI 模型。它通过基于确定性评分系统自动将请求路由到最合适的模型,消除了在本地运行时、账户绑定模型和基于 API 的模型之间手动切换的需要。

工作原理

其核心是一个用 Rust 编写的可移植路由器,充当网关。它通过回环目录发现可用的本地模型,并使用推理探针进行验证。当请求到达时,路由器使用离线的、无密钥的评分路径来决定使用哪个模型。凭据仅在交付给所选提供商时解析。它暴露了 OpenAI 兼容和 Anthropic 兼容的端点,允许 Codex、Claude Code 和 Aider 等工具连接到单一回环策略。

适用对象

它主要面向使用 Omarchy 生态系统的开发者,以及编码代理的用户,还有那些希望在 macOS、Linux 或通过 Docker 上以集中、注重隐私的方式管理本地和托管 AI 模型的用户。

亮点

  • 确定性路由:使用离线和无密钥的评分决策路径。
  • 多提供商支持:集成本地运行时、Apple Foundation Models、Anthropic 和 OpenAI。
  • 广泛兼容性:提供 OpenAI 和 Anthropic 兼容的网关,便于与现有 AI 客户端集成。
  • 跨平台:可作为 Omarchy 插件、原生 macOS 应用、独立 Rust 二进制文件和 Docker 容器使用。

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目