TanStack/ai

解決的問題

TanStack AI 提供了一個類型安全、與提供者無關的 TypeScript SDK，讓開發者能建構 AI 應用。它消除了對單一 AI 提供者依賴的需要，透過統一介面支援即時聊天、工具呼叫代理與多模態生成，同時確保整個堆疊的類型安全。

如何運作

此 SDK 基於可組合的活動與提供者適配器建構。開發者可僅匯入所需的特定功能（例如聊天、影像生成或語音轉錄），並搭配特定提供者（如 OpenAI、Anthropic 或 Gemini）的適配器使用。它支援共用的 toolDefinition() 協定，讓工具只需定義一次，即可在伺服器或客戶端實作。

適用對象

使用 React、Solid、Vue、Svelte 或 Preact 等框架建構 AI 驅動的 Web 應用的 TypeScript 開發者，希望以一致且類型安全的方式整合多個 AI 模型與模態。

主要特色

• 提供者無關：支援廣泛的提供者，包括 OpenAI、Anthropic、Gemini、Groq，以及透過 Ollama 使用的本地模型。
• 多模態功能：統一的模式支援文字、影像、音訊、影片與語音的生成與轉錄。
• 程式碼模式：允許 LLM 在安全、隔離的沙箱中撰寫並執行 TypeScript，以實現複雜的編排。
• 框架原生：為流行的 JavaScript 框架（如 React、Solid、Vue、Svelte、Preact）提供專用的 Hook 與無頭 UI 元件。
• 結構化輸出：支援使用 JSON Schema、Zod、ArkType 或 Valibot 輸出類型化的物件，而非自由格式文字。
• 可觀測性：內建支援 OpenTelemetry 追蹤與指標，適用於 GenAI 流程。