TanStack/ai

解决的问题

TanStack AI 提供了一个类型安全、与提供方无关的 TypeScript SDK，帮助开发者构建 AI 应用。它消除了对单一 AI 提供方的依赖，通过统一接口支持流式聊天、工具调用代理和多模态生成，同时确保整个栈的类型安全。

如何工作

该 SDK 基于可组合的活动和提供方适配器构建。开发者可以仅导入所需的具体功能（例如聊天、图像生成或语音转录），并搭配特定提供方（如 OpenAI、Anthropic 或 Gemini）的适配器使用。它支持共享的 toolDefinition() 协议，使工具只需定义一次，即可在服务端或客户端实现。

适用人群

使用 React、Solid、Vue、Svelte 或 Preact 等框架构建 AI 驱动的 Web 应用的 TypeScript 开发者，希望以一致且类型安全的方式集成多个 AI 模型和模态。

主要亮点

• 提供方无关：支持广泛的提供方，包括 OpenAI、Anthropic、Gemini、Groq 以及通过 Ollama 使用的本地模型。
• 多模态能力：统一的模式支持文本、图像、音频、视频和语音的生成与转录。
• 代码模式：允许 LLM 在安全、隔离的沙箱中编写并执行 TypeScript，实现复杂的编排。
• 框架原生：为流行的 JavaScript 框架（如 React、Solid、Vue、Svelte、Preact）提供专用的钩子和无头 UI 组件。
• 结构化输出：支持使用 JSON Schema、Zod、ArkType 或 Valibot 输出类型化的对象，而非自由格式文本。
• 可观测性：内置对 OpenTelemetry 跟踪和指标的支持，用于 GenAI 流水线。