adaline/gateway
The only fully local production-grade Super SDK that provides a simple, unified, and powerful interface for calling more than 200+ LLMs.
What it solves
Adaline Gateway 是一個基於 TypeScript 的 SDK，提供統一的介面來與來自多個供應商的 300 多個大型語言模型（LLM）互動。它消除了為每個模型編寫供應商特定程式碼的需求，使開發者能夠在不更改核心應用邏輯的情況下切換模型或供應商。
How it works
該 SDK 作為本地整合層，而非代理。它使用一套核心套件以及可選的供應商特定套件（例如 @adaline/openai、@adaline/anthropic），將通用請求類型轉換為不同 LLM 供應商所需的具體 schema。它支援完整的聊天回應、串流回應以及詞向量。
Who it’s for
它針對構建生產級 AI 應用的企業開發者，協助他們以標準化的方式管理多個 LLM 供應商，同時保持對基礎設施和資料隱私的完整控制。
Highlights
- Unified Interface：單一 API 呼叫 300+ LLM，涵蓋 OpenAI、Anthropic、Google、AWS Bedrock 等供應商。
- Production-Ready Features：內建自動重試（指數退避）、自訂佇列支援的批次處理以及快取功能。
- Local Deployment：完全本地運行，非代理，確保資料隱私。
- Extensibility：支援日誌、快取、HTTP 客戶端等自訂插件，以及本地模型的即插即用自訂供應商。
- Comprehensive Tooling：包括工具呼叫、OpenTelemetry 整合用於監控，以及強大的 TypeScript 型別定義。