Fast-Editor/Lynkr

解决的问题

Lynkr 是一个专为降低 AI 编码工具的令牌成本和延迟而设计的 LLM 网关。它防止用户被锁定在单一提供商，并阻止工具发送原始且低效的令牌流，这通常会导致高额账单和订阅容量的浪费。

工作原理

Lynkr 作为 AI 工具（如 Cursor、Claude Code 或 Codex）与 LLM 提供商之间的代理。它通过多种机制优化流量：

• 分层路由：根据任务复杂度（简单、中等、复杂、推理）自动将请求路由到不同模型。简单任务使用廉价或本地模型，复杂任务则升级到强大的云模型。
• 令牌压缩：使用 TOON/RTK 压缩技术，将大型 JSON 工具结果（如 grep 或文件读取）的令牌数量减少高达 84%。
• 语义缓存：存储重复查询，可在 300 毫秒内以零计费令牌提供响应。
• 封装模式：允许 AI 编码助手在无需修改自身代码的情况下使用路由和压缩功能。
• 学习循环：使用 kNN 路由器和多臂老虎机系统，根据实际流量结果校准路由阈值。

适用人群

希望降低 API 成本、通过 Ollama 或 llama.cpp 使用本地模型，并优化订阅使用效率的开发者（如 Cursor、Claude Code、Codex、Cline、Continue）。

主要亮点

• 多提供商支持：兼容 14+ 个提供商，包括 Ollama、OpenAI、Azure、AWS Bedrock 和 DeepSeek。
• 零代码变更：通过现有工具中的基础 URL 覆盖即可集成。
• 实时仪表板：内置遥测功能，用于追踪支出、节省金额、路由准确率和提供商健康状况。
• 流式支持：原生支持 SSE 流式传输，并支持跨格式转换。
• 可选代码智能：可与 Graphify 集成，基于 AST 的复杂度评分以改进路由决策。