mudler/LocalAGI

LocalAGI – 웹 UI를 갖춘 자체 호스팅 AI 에이전트

무엇인가요

• 자신의 머신(CPU 또는 GPU)에서 완전히 AI 에이전트를 실행할 수 있는 Go 기반 플랫폼입니다.
• 에이전트는 브라우저 기반 대시보드를 통해 구성되며, Python 코드나 클라우드 키가 필요하지 않습니다.
• 각 에이전트는 OpenAI 호환 REST 엔드포인트를 노출하여 기존의 OpenAI API와 통신하는 도구를 LocalAGI로 연결할 수 있습니다.

주요 기능 (README에 설명됨)

기능	제공되는 기능
노코드 에이전트 생성	웹 UI를 통해 에이전트를 구축하고 편집할 수 있으며, 코드를 작성하지 않고도 재사용 가능한 스킬(도구와 유사한 확장 기능)을 활성화/비활성화할 수 있습니다.
팀워크	단일 프롬프트에서 협업할 수 있는 여러 에이전트를 정의하여 "에이전트 팀"을 형성할 수 있습니다.
연결기능	Discord, Slack, Telegram, GitHub 이슈, IRC(및 일반적인 MCP 연결기)용 사전 구성된 통합 기능이 제공됩니다.
REST API	OpenAI 스타일의 /v1/chat/completions 엔드포인트 외에도 에이전트, 스킬, 지식 기반을 관리하기 위한 추가 경로를 제공합니다.
RAG / 지식 기반	LocalRecall 라이브러리를 사용한 단기 및 장기 기억 기능을 내장하고 있으며, 파일 업로드, 컬렉션 생성, 세미틱 검색을 수행할 수 있습니다.
계획 및 추론	에이전트는 단계를 계획하고 수신한 컨텍스트에 따라 행동을 조정할 수 있습니다.
주기적 작업	반복적인 작업을 위한 크론과 유사한 스케줄링 기능이 있습니다.
다중 모달	GPU에서 실행 시 시각, 텍스트, 이미지 생성 모델을 지원합니다.
사용자 정의 액션 (Go)	드롭인 가능한 Go 파일(또는 인라인 스니펫)을 통해 새로운 액션을 정의할 수 있으며, 시스템이 런타임에 해석하므로 컴파일이 필요 없습니다.
관측성	UI 내 실시간 상태 패널과 API를 통한 상세 로그를 제공합니다.
모델 유연성	동반 서버인 LocalAI에서 제공하는 모든 GGUF/GGML 모델과 호환되며, LOCALAGI_LLM_API_URL을 통해 다른 OpenAI 호환 엔드포인트에도 연결할 수 있습니다.

실행 방법

• CPU 전용, NVIDIA, Intel Arc, AMD용 여러 하드웨어 설정에 맞는 Docker-Compose 파일을 제공합니다.
• CPU 전용 실행 예시:

  git clone https://github.com/mudler/LocalAGI && cd LocalAGI
  docker compose up
  

• GPU를 사용하려면 적절한 compose 파일(docker-compose.nvidia.yaml 등)로 교체하고, 필요에 따라 MODEL_NAME, MULTIMODAL_MODEL, IMAGE_MODEL 환경 변수를 설정하여 원하는 모델(예: gemma-3-12b-it)을 선택할 수 있습니다.
• 컨테이너가 시작된 후 http://localhost:8080에 접속하여 대시보드를 열 수 있습니다.

플랫폼 확장하기

• 스킬 – skills/ 폴더에 저장되는 재사용 가능한 도구 정의이며, UI에서 편집하거나 Git으로 버전 관리할 수 있습니다.
• 사용자 정의 액션 – LOCALAGI_CUSTOM_ACTIONS_DIR로 지정된 디렉터리에 Go 소스 파일을 배치합니다. 각 파일은 Run, Definition, RequiredFields 세 가지 함수를 노출해야 하며, 시스템이 자동으로 로드하고 UI에서 선택 가능하게 됩니다.
• 라이브러리 모드 – 핵심 기능은 Go 라이브러리로 가져올 수 있어, 개발자가 프로그래밍적으로 에이전트, 에이전트 풀, 사용자 정의 커넥터를 생성할 수 있습니다.

왜 주목해야 할까

• 프라이버시 – 모든 데이터는 자사 하드웨어에 유지되며, 클라우드 엔드포인트에 명시적으로 연결하지 않는 한 외부 API 키가 필요하지 않습니다.
• 로컬 우선 AI – 클라우드 추론 비용을 지불하지 않고도 자율 에이전트를 실험하고 싶은 개발자, 애호가, 조직에게 적합합니다.
• 플러그 앤 플레이 – OpenAI API를 모방하기 때문에 기존 봇, 스크립트, 프론트엔드는 최소한의 변경으로 LocalAGI로 전환할 수 있습니다.

---

결론: LocalAGI는 웹 UI, OpenAI 호환 API, RAG, 다중 모달 지원, 확장 가능한 Go 기반 액션을 갖춘 풀스택 자체 호스팅 AI 에이전트 프레임워크이며, Docker를 통해 소비자 수준의 하드웨어에서도 실행 가능합니다.