cloudwego/eino
The ultimate LLM/AI application development framework in Go.
它解決了什麼問題
Eino 是一個專為簡化 Golang 中 LLM 應用開發而設計的框架,為構建 AI agents 和複雜工作流提供了一種結構化的方式。它彌合了自主代理行為與確定性執行流之間的差距,允許開發者將可重複使用的組件和自定義邏輯整合到具備擴展性的 AI 系統中。
運作原理
Eino 使用基於組件的架構,將 ChatModel、Tool 和 Retriever 等構建塊連接成圖(graphs)和工作流。它提供了兩種主要的代理構建方式:
- ChatModelAgent:一種標準代理,內部處理 ReAct 循環,以決定何時調用工具以及何時進行回應。
- DeepAgent:一種更進階的代理,能夠將複雜任務分解為步驟、委派給子代理並追蹤進度。
開發者可以使用 compose 模組來構建精確的、基於圖的工作流,然後將其作為工具提供給這些代理使用。
適用對象
想要使用符合 Go 慣例的框架來構建生產級 AI agents 和 LLM 驅動應用的 Golang 開發者。
重點特性
- 組件生態系統:提供 OpenAI、Claude、Gemini、Ark 和 Ollama 的官方實現。
- 流處理:在數據於圖中節點之間流動時,提供原生的自動化流式數據處理。
- 人機協作 (Human-in-the-Loop):內建支持中斷並恢復代理執行,以進行人工輸入。
- 回調機制 (Callback Aspects):在關鍵執行點整合日誌、追蹤(tracing)和指標(metrics)注入。
- 基於圖的編排:能夠將確定性流水線與自主代理行為相結合。
相關
- 專案
- 專案
- 專案
- 專案
- 專案