HotRiceNoodles/CrossLink

解决的问题

CrossLink 是一个统一的 LLM API 网关，通过为多个 AI 模型提供单一端点，消除了供应商锁定问题。它解决了在 OpenAI、Anthropic、Azure、DeepSeek 和 Ollama 等不同供应商之间管理各异的 API 格式、认证方式和功能集的问题。

工作原理

它作为双向协议转换器和代理运行。您的应用程序可以使用 OpenAI 或 Anthropic 格式发送请求，CrossLink 会使用状态机实时将这些请求和流式响应（SSE）进行转换。它支持六种不同的路由策略（如加权随机或最低延迟），并实现了基于错误分类的故障转移系统，能够区分临时错误（如速率限制）和持久错误（如账单问题），从而确保更智能的重试。

适用人群

使用多个 LLM 供应商并希望获得统一接口、弹性路由以及对成本、安全性和工具访问进行集中控制的开发者和组织。

主要亮点

• 双向流式翻译：实时转换 OpenAI、Anthropic 和 Responses API 格式，支持思考块和工具参数。
• 错误分类故障转移：使用基于数据库的规则表，通过分类失败来防止“盲目重试”。
• MCP 网关：具备工具级 RBAC、工具发现和加密凭证的 Model Context Protocol 网关。
• 可插拔的防护机制：内容安全引擎注册表，可阻断、记录或屏蔽响应。
• 路由透明性：通过响应头和路由分布 API 提供详细的可观测性。
• 合规就绪：支持中国国家密码（SM2/SM3/SM4）和离线部署。
• 管理仪表板：基于 Vue 3 的 Web UI，用于管理供应商、模型、API 密钥和使用分析。