ThomasVitale/llm-apps-java-spring-ai
Samples showing how to build Java applications powered by Generative AI and LLMs using Spring AI and Spring Boot.
它解決了什麼
本儲存庫提供了完整的範例應用程式與實作模式,讓 Java 開發者能使用 Spring AI 框架建構生成式 AI 應用程式。它彌合了 AI 概念與實務 Java 實作之間的鴻溝,提供了將 LLM、向量資料庫與多模態功能整合到企業級 Java 應用程式的具體範例。
它如何運作
此專案以 Spring AI 為基礎,整理成一系列使用案例與模式。它示範了與多種模型提供者(OpenAI、Mistral AI、Ollama)以及 PGVector 等向量儲存工具的整合。範例涵蓋完整的 AI 應用程式生命週期,從資料攝取(讀取 PDF、JSON、Markdown)與文件轉換(切分與中繼資料豐富)到進階的 RAG(檢索增強生成)流程,包括順序、分支與條件 RAG。
目標對象
Java 開發者與軟體架構師,想學習如何使用 Spring AI 建構 AI 注入的應用程式,特別是需要實作常見 AI 模式(如 RAG、工具呼叫、結構化輸出)的可執行範例。
重點特色
- 多樣模型支援:整合 OpenAI、Mistral AI 與透過 Ollama 的本地 LLM。
- 進階 RAG 模式:提供 naive、advanced、sequential、branching 與 conditional RAG 流程的實作。
- 完整工具鏈:示範結構化資料抽取、文字分類與多模態提示。
- 企業級模式:實作聊天記憶(JDBC、向量儲存、Spring Security)與輸入/輸出防護。
- 資料攝取管線:內建支援多種格式(PDF、JSON、Markdown、Tika)的文件讀取器,以及用於分塊與中繼資料豐富的文件轉換器。