llm-workflow-engine/llm-workflow-engine

해결하는 문제

LLM 워크플로우 엔진(LWE)은 명령줄에서 다양한 대규모 언어 모델(LLM)에 직접 접근하고 자동화 워크플로우에 통합할 수 있는 방법을 제공합니다. 웹 인터페이스를 사용할 필요 없이 데이터를 LLM에 파이프로 전달하고, 더 큰 시스템 작업의 일부로 활용할 수 있습니다.

작동 방식

LWE는 CLI 도구이자 Python 라이브러리로서 LLM 제공자에 연결합니다. 공식 OpenAI ChatGPT API(예: GPT-4 포함) 및 플러그인 아키텍처를 통해 다른 제공자도 지원합니다. 사용자는 Ansible Playbooks에 LLM 호출을 통합하여 AI 추론이 필요한 작업의 자동화를 가능하게 합니다.

대상 사용자

터미널 기반 워크플로우, Python 스크립트 또는 Ansible을 사용한 자동화 스크립트에 LLM 기능을 통합하고자 하는 개발자, 시스템 관리자, 고급 사용자.

주요 기능

• 명령줄 인터페이스: 셸에서 ChatGPT/GPT-4 및 기타 LLM에 직접 접근 가능.
• 다중 제공자 지원: 플러그인을 통해 OpenAI, Cohere, Huggingface 등과 호환.
• 워크플로우 통합: Ansible Playbooks에 LLM 호출을 통합하여 대규모 자동화 워크플로우 구축 가능.
• 확장 가능한 아키텍처: 사용자 정의 기능을 추가할 수 있는 간단한 플러그인 시스템.
• Python API: Python 스크립트 내에서 LLM 사용을 위한 라이브러리.
• 도구 사용: 호환되는 제공자에서 도구 사용 지원.