cloudwego/eino-ext

Various extensions for the Eino framework: https://github.com/cloudwego/eino

Eino Extension (cloudwego/eino‑ext)

무엇인가요

  • Eino 프레임워크를 확장하는 플러그인과 보조 라이브러리 모음입니다. Eino는 CloudWeGo 프로젝트로, LLM 기반 애플리케이션을 구축하기 위한 것입니다.

제공하는 기능

  • 컴포넌트 구현체 – Eino에서 정의한 컴포넌트 유형을 위한 즉시 사용 가능한 코드, 예를 들어:
    • ChatModel: OpenAI, Claude, Gemini, Ark, Ollama 등에 대한 어댑터.
    • Tool: Google Search, DuckDuckGo 등의 통합.
    • Retriever / Indexer: Elastic Search, Volc VikingDB에 대한 연결.
    • Document Loader: 웹 URL, Amazon S3, 로컬 파일에서의 읽기.
    • Document Transformer: HTMLSplitter, ScoreReranker 등의 유틸리티.
    • Embedding: OpenAI, Ark 등.
    • Lambda: 예를 들어 JSONMessageParser.
  • 콜백 핸들러 – Eino의 CallbackHandler 인터페이스의 구현체, 예: Langfuse 트레이싱 핸들러.
  • DevOps 도구 – 그래프 기반 워크플로우 편집, 시각적 디버깅, Eino 프로젝트를 위한 기타 UI 지원 기능을 제공하는 IDE 플러그인.

왜 중요한가요

  • 인기 있는 LLM 서비스 및 데이터 저장소용 반복 코드를 작성할 필요가 없습니다.
  • 생태계 일관성 유지: 모든 확장은 Eino가 정의한 동일한 컴포넌트 계약을 따릅니다.
  • IDE 플러그인을 통해 복잡한 LLM 파이프라인 설계 및 디버깅이 쉬워집니다.

일반적인 사용 사례

  1. OpenAI의 GPT 모델을 사용하고 Google을 통해 웹 검색하며 Elastic Search에서 문서를 검색하는 챗봇의 빠른 프로토타이핑.
  2. S3, VikingDB, Langfuse 등 신뢰성 있고 테스트된 연결이 필요한 프로덕션 수준의 파이프라인.
  3. IDE에서 시각적 워크플로우 편집을 통해 비엔지니어도 LLM 애플리케이션 흐름을 이해할 수 있는 팀 협업.

시작하기

  1. 리포지토리를 클론하고 Eino 프로젝트에 종속성으로 추가합니다 (README에 정확한 가져오기 지침 링크 있음).
  2. 필요한 컴포넌트를 선택합니다 (예: ChatModel.OpenAI)并在 Eino 컴포넌트 문서에 따라 인스턴스화합니다.
  3. 선택적으로 IDE 플러그인을 설치합니다 (DevOps 문서에 자세한 내용 있음)하여 파이프라인을 시각적으로 편집하고 디버깅합니다.

문서 링크

라이선스

  • Apache‑2.0 (파일 LICENSE 참조).

보안

  • 어떤 취약점도 ByteDance 보안 센터 또는 sec@bytedance.com를 통해 비공개로 보고해 주세요.

관련

  • 프로젝트
  • 프로젝트
  • 프로젝트
  • 프로젝트
  • 프로젝트