beclab/Olares
Open-Source Personal Cloud OS for Always-On Agents
해결하는 문제
Olares는 타사 클라우드 AI 서비스를 사용할 때 발생하는 개인정보 보호 및 비용 문제를 해결합니다. AI를 "집"으로 가져옴으로써 사용자가 자신의 하드웨어에서 에이전트 및 대규모 언어 모델을 실행할 수 있도록 하여, 민감한 개인 데이터(파일 및 메시지 등)가 외부 서버에 저장되지 않고 사용자의 통제 하에 유지되도록 합니다.
작동 방식
Kubernetes를 기반으로 구축된 Olares는 Linux 호스트를 셀프 호스팅 AI 플랫폼으로 변환합니다. 웹 브라우저 또는 명령줄 인터페이스를 통해 관리할 수 있는 컴퓨팅, 스토리지 및 네트워킹을 위한 통합된 환경을 제공합니다. 시스템에는 GPU 풀링(타임 슬라이싱 및 메모리 슬라이싱 포함), 보안 액세스를 위한 프라이빗 VPN, 오픈 소스 AI 애플리케이션의 원클릭 설치를 위한 마켓플레이스 등의 기능이 포함되어 있습니다.
대상 사용자
- 개인 사용자: 생성형 AI 및 개인 에이전트를 프라이빗하게 실행하고자 하는 사용자.
- 소규모 팀: 자동화 및 데이터 관리를 위한 통합된 셀프 호스팅 워크스페이스를 찾는 팀.
- 개발자: 격리된 환경에서 에이전트형 애플리케이션을 구축, 테스트 및 호스팅하고자 하는 개발자.
주요 특징
- 원클릭 로컬 AI: 전용 마켓플레이스에서 오픈 소스 모델 및 앱을 쉽게 설치.
- 가속 컴퓨팅: 다양한 노드에 걸쳐 GPU를 관리하고 풀링.
- 에이전트 네이티브 관리: AI 에이전트가 OS를 운영할 수 있도록 "Agent Skills"가 포함된 CLI 사용.
- 포괄적인 시스템 앱: 파일, 스토리지 및 LarePass를 통한 보안 액세스를 위한 내장 도구 포함.