cloudwego/eino

What it solves

Eino 是一个旨在简化 Golang 中 LLM 应用开发的框架，为构建 AI agent 和复杂工作流提供了一种结构化的方式。它弥合了自主 agent 行为与确定性执行流之间的鸿沟，允许开发者将可重用的组件和自定义逻辑组合成可扩展的 AI 系统。

How it works

Eino 使用基于组件的架构，其中 ChatModel、Tool 和 Retriever 等构建块被连接成图和工作流。它提供了两种主要的构建 agent 的方式：

• ChatModelAgent: 一个标准的 agent，在内部处理 ReAct 循环，以决定何时调用工具以及何时进行响应。
• DeepAgent: 一个更高级的 agent，能够将复杂任务分解为步骤，委派给子 agent，并跟踪进度。

开发者可以使用 compose 模块来构建精确的、基于图的工作流，然后将其作为工具暴露给这些 agent 使用。

Who it’s for

想要使用遵循 Go 惯例的框架来构建生产级 AI agent 和 LLM 驱动的应用的 Golang 开发者。

Highlights

• Component Ecosystem: OpenAI、Claude、Gemini、Ark 和 Ollama 的官方实现。
• Stream Processing: 在数据流经图中的节点之间流动时，原生、自动地处理流式数据。
• Human-in-the-Loop: 内置支持中断并恢复 agent 执行以进行人工输入。
• Callback Aspects: 在关键执行点集成日志记录、链路追踪和指标注入。
• Graph-based Orchestration: 能够将确定性流水线与自主 agent 行为相结合。