adaline/gateway
The only fully local production-grade Super SDK that provides a simple, unified, and powerful interface for calling more than 200+ LLMs.
What it solves
Adaline Gateway は、さまざまなプロバイダーから提供される 300 以上の大規模言語モデル（LLM）とやり取りするための統一インターフェースを提供する TypeScript ベースの SDK です。モデルごとにプロバイダー固有のコードを書く必要がなくなり、コアロジックを変更せずにモデルやプロバイダーを切り替えることができます。
How it works
この SDK はプロキシではなくローカル統合層として機能します。コアパッケージとオプションのプロバイダー固有パッケージ（例: @adaline/openai、@adaline/anthropic）の組み合わせで、汎用リクエスト型を各 LLM プロバイダーが要求するスキーマへ変換します。完全なチャット応答とストリーミング応答、さらには単語埋め込みもサポートします。
Who it’s for
エンタープライズ開発者向けに設計されており、複数の LLM プロバイダーを標準化された方法で管理しつつ、インフラとデータプライバシーを完全にコントロールしたい方に最適です。
Highlights
- Unified Interface: OpenAI、Anthropic、Google、AWS Bedrock など、プロバイダー横断で 300 以上の LLM を呼び出す単一 API。
- Production-Ready Features: 指数バックオフ付き自動リトライ、カスタムキュー対応のバッチ処理、キャッシュ機能を標準装備。
- Local Deployment: 完全にローカルで動作し、プロキシではないためデータプライバシーが保たれます。
- Extensibility: ロギング、キャッシュ、HTTP クライアント用のカスタムプラグインや、ローカルモデル用のプラグアンドプレイ型プロバイダーをサポート。
- Comprehensive Tooling: ツール呼び出し、OpenTelemetry 連携による計測、そして強力な TypeScript 型定義を提供。