Rose22/openlumara

해결하는 문제

OpenLumara는 토큰 소비와 부담을 줄이기 위해 설계된 가벼운 로컬 우선 AI 에이전트 프레임워크입니다. 개인의 작업, 노트, 루틴을 관리하기 위한 모듈식 시스템을 제공하며, 특히 ADHD나 자폐 스펙트럼 장애와 같은 실행 기능 장애를 가진 사람들이 구조화된 AI 어시스턴트가 필요할 때 특히 유용합니다.

작동 방식

이 프레임워크는 Python으로 작성되었으며, llamacpp, ollama, koboldcpp와 같은 로컬 제공자 포함, 어떤 OpenAI API 호환 백엔드와도 연결할 수 있습니다. 메모리, 스케줄링, 쉘 접근과 같은 기능은 켜거나 끌 수 있는 모듈식 아키텍처를 사용하여 시스템 프롬프트 크기를 최소화합니다. WebUI, CLI, Telegram, Discord, Matrix와 같은 여러 통신 채널을 지원합니다.

대상 사용자

• 로컬 AI 애호가: 개인 정보 보호를 중시하고, 빠르며 토큰 효율적인 자체 호스팅 에이전트를 원하는 사용자.
• 개발자: 새로운 모듈이나 채널을 Python 클래스로 쉽게 확장할 수 있는 모듈식 프레임워크를 찾는 사람.
• 개인 생산성 향상 희망자: AI 인터페이스를 통해 삶의 작업, 습관, 루틴을 관리하고자 하는 사람.

주요 특징

• 극도의 토큰 효율성: 최소 4000 토큰까지 최적화된 시스템 프롬프트와 실시간 토큰 사용량 모니터링 도구.
• 모듈식 설계: 메모리, 스케줄러, 시간 인식과 같은 거의 모든 핵심 구성 요소를 비활성화하여 오버헤드를 줄일 수 있음.
• 사전 보호된 쉘: 보안을 위해 Docker 또는 Podman 컨테이너 내에서 명령어를 실행하는 전환 가능한 모듈.
• 다중 채널 지원: WebUI, CLI, Telegram, Discord, Matrix와의 네이티브 통합.
• 통합 스케줄러: AI 작업을 스케줄링하기 위한 자체 개발된 시스템.
• 메모리 시스템: 컴팩트하고 빠른 데이터 저장을 위해 MessagePack 형식 사용.