JetBrains/koog

解決的問題

Koog 是一個框架，讓開發者能使用自然且類型安全的 Kotlin 與 Java API 建構 AI 代理，使其能與工具互動、管理複雜的工作流程，並與使用者維持對話。

運作方式

提供模組化架構，開發者可使用圖形基礎的工作流程與自訂工具來定義代理行為。支援多種 LLM 提供者（包括 Google、OpenAI、Anthropic、DeepSeek 與 Ollama），並整合 Model Context Protocol (MCP) 與 Agent Client Protocol (ACP)。框架亦內建歷史壓縮機制以節省 token，狀態持久化以實現容錯，並使用向量嵌入實作基於 RAG 的知識檢索。

適用對象

希望在多個平台（JVM、JS、WasmJS、Android 與 iOS）上部署 AI 代理，並使用 Spring Boot 與 Ktor 等框架整合至企業應用的 JVM 與 Kotlin 開發者。

主要特色

• 多平台支援：可在 JVM、JS、WasmJS、Android 與 iOS 上部署代理。
• LLM 靈活性：在不同 LLM 提供者之間切換或重新路由，而不會遺失對話歷史。
• 企業整合：內建支援 Spring Boot、Ktor 與 OpenTelemetry 導出器（W&B Weave、Langfuse）。
• 可靠性：具備內建重試機制與代理狀態持久化，可在特定點恢復執行。
• 進階記憶：包含智慧歷史壓縮與基於 RAG 的知識檢索。
• 標準化協定：整合 Model Context Protocol (MCP) 與 Agent Client Protocol (ACP)。