OpenJarvis 1.0 출시: Ollama를 통한 로컬 우선 개인용 AI
OpenJarvis 1.0은 로컬 하드웨어에서 실행되는 개인용 AI 에이전트를 구축하기 위한 오픈 소스 프레임워크로, 이제 Ollama에 대한 내장 지원을 제공합니다. Stanford의 Hazy Research 및 Scaling Intelligence 연구실에서 개발한 이 프로젝트는 효율적인 로컬 AI에 초점을 맞춘 'Intelligence Per Watt' 연구 이니셔티브의 일부입니다.
로컬 우선 아키텍처
OpenJarvis는 개인용 AI의 기본 설정을 클라우드 의존성에서 로컬 실행으로 전환합니다. 로컬 모델이 대부분의 일상적인 추론 및 채팅 작업을 처리할 수 있는 동안, OpenJarvis는 모델이 기본적으로 로컬에서 실행되도록 보장하며 클라우드 액세스는 선택 사항으로 만듭니다. 이 프레임워크는 정확도와 함께 에너지 소비, 지연 시간 및 비용을 추적합니다.
Ollama와의 통합
OpenJarvis는 모델을 관리하고 실행하기 위해 Ollama와 직접 통합됩니다. 사용자는 jarvis CLI를 통해 특정 모델을 가져오고(pull) 이를 쿼리에 할당하거나 구성 파일에서 기본값으로 설정할 수 있습니다.
모델 구성
사용자는 다음과 같은 구성을 사용하여 ~/.openjarvis/config.toml에서 기본 모델과 엔진을 지정할 수 있습니다:
[intelligence]
default_model = "qwen3.5:35b"
preferred_engine = "ollama"
내장 에이전트 프리셋
OpenJarvis는 특정 워크플로우를 위한 필요한 도구 및 엔진과 함께 에이전트를 번들로 제공하는 즉시 실행 가능한 프리셋을 제공합니다:
모닝 브리핑 에이전트
morning-digest-mac 프리셋을 사용하면 에이전트를 캘린더, 이메일 및 최신 뉴스 피드에 연결하여 일일 브리핑을 생성할 수 있습니다.
딥 리서치 에이전트
deep-research 프리셋은 웹과 로컬 문서를 가로지르는 연구를 가능하게 합니다. 이는 jarvis memory index를 통해 로컬 디렉토리를 인덱싱하는 것을 지원하며 인용과 함께 답변을 제공합니다.
로컬 코딩 에이전트
code-assistant 프리셋은 사용자의 머신에서 직접 Python 코드를 작성하고 실행하여 작업을 완료할 수 있는 코딩 에이전트를 제공합니다.
설치 및 설정
OpenJarvis는 macOS, Linux, Windows (WSL2 또는 데스크톱 앱을 통해)에서 사용할 수 있습니다. 설치 과정은 Ollama를 설치하고 제공된 설치 스크립트를 실행하는 것을 포함합니다:
curl -fsSL https://open-jarvis.github.io/OpenJarvis/install.sh | bash
Sources
관련
- 프로젝트
- Dispatch
- Dispatch
- Dispatch
- 프로젝트