spring-projects/spring-ai

解決的問題

Spring AI 簡化了將人工智慧整合至企業級 Java 應用程式的過程。它解決了將企業資料與 API 連接至各種 AI 模型的挑戰，同時維持可移植性與模組化設計，防止開發者被鎖定於單一 AI 供應商。

如何運作

它提供一個 Spring 友好的 API 與一組抽象，讓開發者能使用強型別資料結構與 AI 模型互動。它支援跨不同 AI 供應商（如 OpenAI、Anthropic 和 Google）與向量儲存（如 Pinecone、Milvus 和 Redis）的可移植 API，讓開發者能在不重寫核心應用邏輯的情況下輕鬆切換供應商。

適用對象

希望建構生成式 AI 應用程式的 Java 與 Spring Boot 開發者，包括需要 RAG（檢索增強生成）、工具呼叫與結構化輸出的應用場景。

主要亮點

• 多供應商支援：支援 Anthropic、OpenAI、Amazon Bedrock、Google 與 Ollama 等主要 AI 模型供應商。
• 知識庫整合：支援廣泛的向量儲存供應商，實現高效資料檢索。
• 工具呼叫：允許 AI 模型請求執行客戶端工具與函數，以取得即時資訊。
• 結構化輸出：將 AI 模型的輸出直接映射至 POJO（Plain Old Java Objects）。
• MCP 支援：對 Model Context Protocol (MCP) 提供原生支援，用於建構消費 MCP 伺服器的 AI 應用程式。
• ETL 框架：包含用於資料工程任務的文件注入 ETL 框架。
• 可觀測性：內建工具，提供對 AI 相關操作的洞察。