cloudwego/eino

무엇을 해결하는가

Eino는 Golang에서 LLM 애플리케이션 개발을 단순화하기 위해 설계된 프레임워크로, AI 에이전트와 복잡한 워크플로우를 구축하는 구조화된 방법을 제공합니다. 이는 자율적인 에이전트 동작과 결정론적 실행 흐름 사이의 간극을 메우며, 개발자가 재사용 가능한 컴포넌트와 커스텀 로직을 결합하여 확장 가능한 AI 시스템을 구축할 수 있도록 합니다.

작동 방식

Eino는 ChatModel, Tool, Retriever와 같은 빌딩 블록을 그래프와 워크플로우로 연결하는 컴포넌트 기반 아키텍처를 사용합니다. 에이전트를 구축하는 두 가지 주요 방법을 제공합니다:

• ChatModelAgent: 도구를 호출할 시점과 응답할 시점을 결정하기 위해 내부적으로 ReAct 루프를 처리하는 표준 에이전트입니다.
• DeepAgent: 복잡한 작업을 단계별로 분해하고, 하위 에이전트에게 위임하며, 진행 상황을 추적할 수 있는 더 고급 에이전트입니다.

개발자는 compose 모듈을 사용하여 정밀한 그래프 기반 워크플로우를 구축할 수 있으며, 이를 에이전트가 사용할 수 있는 도구로 노출할 수 있습니다.

대상 사용자

Go 컨벤션을 따르는 프레임워크를 사용하여 프로덕션 수준의 AI 에이전트와 LLM 기반 애플리케이션을 구축하고자 하는 Golang 개발자.

주요 특징

• Component Ecosystem: OpenAI, Claude, Gemini, Ark, 그리고 Ollama를 위한 공식 구현체.
• Stream Processing: 그래프 내 노드 간에 흐르는 스트리밍 데이터를 네이티브하게 자동으로 처리.
• Human-in-the-Loop: 인간의 입력을 위해 에이전트 실행을 중단하고 재개할 수 있는 내장 지원.
• Callback Aspects: 주요 실행 지점에서 통합된 로깅, 트레이싱, 그리고 메트릭 주입.
• Graph-based Orchestration: 결정론적 파이프라인과 자율적인 에이전트 동작을 결합하는 능력.