cloudwego/eino-ext

해결하는 문제

Eino 프레임워크를 위한 포괄적인 공식 확장 기능을 제공하여, 개발자가 뼈대 코드를 작성하지 않고도 다양한 LLM 제공업체, 데이터 소스 및 관측 도구를 쉽게 통합할 수 있도록 합니다.

작동 방식

이 프로젝트는 Eino 프레임워크에 연결되는 사전 구축된 컴포넌트 라이브러리로 작동합니다. 핵심 AI 애플리케이션 빌딩 블록에 대한 공식 구현을 제공하며, 다음을 포함합니다:

• 채팅 모델: OpenAI, Claude, Gemini, Ark, Ollama 통합.
• 검색 및 인덱싱: Elastic Search 및 Volc VikingDB 지원.
• 검색 도구: Google Search 및 Duck Duck Go.
• 데이터 처리: WebURL, Amazon S3, 파일용 문서 로더 및 HTMLSplitter와 같은 변환기.
• 관측성: Langfuse와 같은 추적 도구용 콜백 핸들러.

대상 사용자

Eino 프레임워크를 사용하여 LLM 애플리케이션을 개발하고, 인기 있는 AI 모델 및 인프라용 즉시 통합이 필요한 개발자.

주요 특징

• 광범위한 모델 지원: 여러 주요 LLM 제공업체용 공식 구현.
• 통합된 RAG 파이프라인: 리트리버, 인덱서, 변환기, 로더를 포함하여 검색 기반 생성 시스템을 구축할 수 있음.
• DevOps 지원: 시각적 디버깅 및 그래프 편집용 IDE 플러그인 포함.
• 콜백 통합: 콜백 핸들러를 통한 추적 및 모니터링 내장 지원.