adaline/gateway
The only fully local production-grade Super SDK that provides a simple, unified, and powerful interface for calling more than 200+ LLMs.
What it solves
Adaline Gateway 是一个基于 TypeScript 的 SDK，提供统一的接口来与来自多个供应商的 300 多个大型语言模型（LLM）交互。它消除了为每个模型编写供应商特定代码的需求，使开发者能够在不更改核心应用逻辑的情况下切换模型或供应商。
How it works
该 SDK 充当本地集成层，而非代理。它使用一套核心包以及可选的供应商特定包（例如 @adaline/openai、@adaline/anthropic），将通用请求类型转换为不同 LLM 供应商所需的具体 schema。它支持完整的聊天响应、流式响应以及词向量。
Who it’s for
它面向构建生产级 AI 应用的企业开发者，帮助他们以标准化的方式管理多个 LLM 供应商，同时保持对基础设施和数据隐私的完全控制。
Highlights
- Unified Interface：单一 API 调用 300+ LLM，覆盖 OpenAI、Anthropic、Google、AWS Bedrock 等供应商。
- Production-Ready Features：内置自动重试（指数退避）、自定义队列支持的批处理以及缓存功能。
- Local Deployment：完全本地运行，不是代理，确保数据隐私。
- Extensibility：支持日志、缓存、HTTP 客户端等自定义插件，以及本地模型的即插即用自定义供应商。
- Comprehensive Tooling：包括工具调用、OpenTelemetry 集成用于监控，以及强大的 TypeScript 类型定义。