Fast-Editor/Lynkr

Streamline your workflow with Lynkr, a CLI tool that acts as an HTTP proxy for efficient code interactions using Claude Code CLI.

解決する課題

Lynkrは、AIコーディングツールのトークンコストとレイテンシを削減するために設計されたLLMゲートウェイです。ユーザーが単一のプロバイダーにロックインされるのを防ぎ、ツールが最適化されていない生のトークンを送信することを防ぎます。これは、高額な請求や非効率なモデル使用の主な原因となります。

仕組み

Lynkrは、AIツール(Cursor、Claude Code、Codexなど)とLLMプロバイダーの間のプロキシとして機能します。以下のメカニズムを通じてトラフィックを最適化します:

  • ティア・ルーティング (Tier Routing): anchor-embedding分類とローカルLLM分類器を使用してリクエストの複雑さを分析し、単純なタスクは安価な/ローカルのモデルへ、複雑なタスクは強力なクラウドモデルへとルーティングします。
  • トークン圧縮 (Token Compression): TOON/RTK圧縮を使用して、大規模なJSONツール結果(例:grepやファイル読み取り)のサイズを最大84%削減します。
  • セマンティック・キャッシング (Semantic Caching): 類似したクエリへのレスポンスを保存し、繰り返されるリクエストや言い換えられたリクエストを、トークンを消費せずに300ms未満で提供できるようにします。
  • ラップ・モード (Wrap Mode): 既存のAIコーディングアシスタントをラップして、ツール自体にコード変更を必要とせずにこれらの最適化を適用できます。
  • 学習ループ (Learning Loop): kNNルーターとバンディット・システムを使用して、実際のトラフィック結果に基づいてルーティングの閾値を調整します。

対象ユーザー

APIコストを抑え、サブスクリプションの制限を最大限に活用し、クラウドプロバイダーと並行してローカルモデル(Ollama、llama.cppなど経由)を統合したい、AIコーディングアシスタント(Cursor、Claude Code、Codex、Cline、Continue)を利用している開発者。

ハイライト

  • 大幅なトークン削減: JSONツール結果で最大84%、ツール集約型のリクエストで53%のトークン削減を実現。
  • 幅広いプロバイダー対応: Ollamaのようなローカルオプションから、AWS Bedrock、Azure、OpenAIなどのクラウドサービスを含む13以上のプロバイダーに対応。
  • コード変更不要: ツール設定のbase URLを上書きするだけで統合が可能。
  • リアルタイム・ダッシュボード: 支出、節約額、ルーティングの精度を追跡するための組み込みテレメトリ。
  • 高度なコード・インテリジェンス: ルーティングの決定を改善するために、ASTベースの構造的コード分析を行うGraphifyとのオプション統合が可能。