zeraix/zeraix

Open-source local AI workspace — advancing on-device inference.

Zeraix – 데스크톱 중심의 AI 작업 공간

무엇인가요 – Zeraix는 오픈소스 데스크톱 애플리케이션으로, 자신의 컴퓨터에서 대규모 언어 모델(LLMs)과 AI 에이전트를 완전히 로컬에서 실행할 수 있게 해줍니다. 모델 다운로드/관리, 채팅형 어시스턴트, 파일 읽기/쓰기 및 터미널 명령 실행이 가능한 개발자 모드, 반복적인 AI 워크플로우를 위한 스케줄러를 통합하고 있습니다. 현재 핵심 런타임은 커뮤니티 유지보수 중인 llama.cpp 엔진을 사용하고 있으며, 향후 릴리스를 위해 팀 자체 연구용 런타임인 ExactFlux 개발이 진행 중입니다.

왜 중요한가요 – 대부분의 AI 제품은 클라우드 API에 기반하지만, Zeraix는 이를 뒤집어 로컬 모델을 기본으로 삼습니다. 이로 인해 다음과 같은 이점이 있습니다:

  • 개인정보 보호 – 프롬프트, 파일, 대화 기록은 명시적으로 클라우드 엔드포인트를 사용하지 않는 한 기기에서 벗어나지 않습니다.
  • 오프라인 사용 가능 – 모델과 런타임을 설치한 후에는 인터넷 연결 없이도 모든 기능이 작동합니다.
  • 하드웨어 인식 최적화 – 앱은 CPU/GPU/통합 메모리를 검사하여 맞는 양자화 GGUF 모델을 추천하며, 연구 수준의 최적화(매핑된 가중치, 예측적 디코딩, KV 캐시 재사용 등)를 적용해 더 빠르고 메모리 사용이 적은 추론을 가능하게 합니다.

주요 구성 요소

구성 요소 기능
Zeraix Desktop GGUF 모델 설치, 로컬 OpenAI 호환 엔드포인트 실행, 채팅, 스케줄된 워크플로우 관리용 GUI.
어시스턴트 모드 텍스트, 이미지, 멀티모달 모델을 처리할 수 있는 대화형 UI. "스킬"(사전 구축된 도구 확장)과 선택적 클라우드 모델을 지원.
개발자 모드 선택한 모델이 사용자가 지정한 워크스페이스에 제한된 접근 권한을 가지게 하며, 파일 검색/편집, 차이점 미리보기, 터미널 실행, 브라우저 도구, 하위 에이전트 위임 기능 제공.
스케줄된 자동화 일일, 시간 단위 등 반복적인 AI 작업을 정의 가능. 실행 기록, 알림, 각 실행별 출력 폴더 제공.
QEMU 사전 선택적 경량 가상머신으로 에이전트 명령을 격리하며, bubblewrap를 통해 명령별 파일 시스템 스코프를 제어.
Model Systems 연구 메모리 효율적 추론, 예측적 디코딩, MoE 처리, 하드웨어별 백엔드(Metal, CUDA, Vulkan)에 대한 지속적인 내부 연구(ExactFlux).

지원 플랫폼 – macOS 13+ (Apple Silicon) 및 Windows 10/11 x64. 공개 릴리스는 각 플랫폼용 사전 빌드된 llama.cpp 런타임을 포함합니다. ExactFlux는 아직 포함되지 않았습니다.

일반적인 워크플로우

  1. 다운로드 – GitHub 릴리스 페이지에서 설치 프로그램을 다운로드합니다.
  2. 설치 – macOS는 드래그 앤 드롭, Windows는 표준 .exe 설치 프로그램을 사용합니다.
  3. 모델 추가 – 모델 라이브러리가 하드웨어를 스캔하고 호환되는 GGUF 모델을 제안하며, 해당 llama.cpp 바이너리와 함께 다운로드합니다.
  4. 대화 시작 – 어시스턴트에서 로컬 모델을 선택하고 프롬프트를 입력하면 추론이 로컬에서 실행됩니다.
  5. (옵션) 개발자 모드 활성화 – 프로젝트 폴더를 지정하여 모델이 명시적 승인 하에 코드를 읽고 편집 및 실행할 수 있도록 합니다.
  6. (옵션) 스케줄된 워크플로우 생성 – 선택한 스케줄에 따라 자동으로 실행되는 프롬프트 또는 스크립트를 정의합니다.

Zeraix를 고려해야 할 사람

  • 유료 클라우드 API에 의존하지 않고 자체 완결형 AI 환경을 원하는 개발자 또는 연구자.
  • 데이터 프라이버시가 필요한 팀(예: 고유 코드 또는 기밀 문서 작업).
  • 충분한 RAM(권장 ≥ 16 GB)과 최신 CPU/GPU를 보유하고 있으며, 양자화 LLM을 로컬에서 실험하고 싶은 사용자.
  • 대규모 모델을 소비자용 하드웨어에서 효율적으로 실행하는 최신 연구에 관심 있는 사람(팀은 성능 측정 및 연구 업데이트를 공개).

성숙도 및 라이선스

  • 데스크톱 애플리케이션은 v1.11.0 (안정적 공개 릴리스)입니다. 모델 관리, 어시스턴트, 개발자 모드, 스케줄링, 사전 기능은 모두 프로덕션 준비 완료.
  • 연구용 런타임 ExactFlux 는 여전히 "탐색/프로토타입" 단계이며, 공개 소스 트리에 포함되지 않았습니다. 검증 후 오픈소스화될 예정입니다.
  • 라이선스는 Apache‑2.0 로, 코드를 동일한 조건 하에 사용, 수정, 재배포할 수 있습니다.

시작하기

  • macOS: .dmg 다운로드 후 Applications 폴더로 드래그, 열기 (보안 경고가 표시되면 허용).
  • Windows: .exe 다운로드 후 설치 프로그램 실행, Zeraix 실행.
  • 내장된 "빠른 시작" 워크숍을 따라 추천 GGUF 모델을 설치하고 채팅을 시작하세요.

커뮤니티 및 지원

결론 – Zeraix는 로컬 LLM을 실행하기 위한 정교하고 개인정보를 우선시하는 데스크톱 환경을 제공하며, 시스템 수준의 성능 연구에 중점을 두고 있습니다. 클라우드 구독 없이 자신의 하드웨어에서 강력한 모델을 실험하고 싶다면, Zeraix는 실용적이고 프로덕션 준비 완료된 선택지입니다.

관련

  • 프로젝트
    xalgorix/xalgorix

    An autonomous AI penetration testing platform that uses an LLM agent and an independent verifier to discover and prove vulnerabilities, reducing false positives in security assessments.

  • 프로젝트
    agiresearch/AIOS

    AIOS는 LLM 기반 에이전트를 위한 오픈소스 '운영체제'입니다. 커널(이 리포지토리)은 LLM 인스턴스, 메모리, 스토리지, 도구 사전화를 관리하며, Cerebrum SDK를 통해 시스템콜 스타일 API를 제공합니다. Ollama, vLLM, HuggingFace, Deepseek 등 다양한 모델 백엔드를 지원하고, 외부 도구와 통합 가능하며, 로컬 단일 머신부터 원격, 개인, 가상화 커널까지 다양한 배포 모드를 제공합니다. Python 3.10/3.11 환경에서 설치 가능하며, 설정은 `config.yaml`에서 수행하고, 웹 UI 또는 자연어 터미널을 통해 에이전트를 실행할 수 있습니다. 연구 수준(여러 컨퍼런스 논문)이며 현재도 적극적으로 유지보수 중입니다.

  • Dispatch
    Deltix: AI-Driven Mobile App UX Testing

    Deltix는 개발자가 작업을 일반 영어로 설명함으로써 모바일 앱 사용자 경험을 테스트할 수 있게 해주는 AI 기반 테스트 플랫폼으로, AI 에이전트가 로컬 시뮬레이터에서 해당 작업을 실행합니다.

  • 프로젝트
    shibing624/agentica

    Agentica는 오픈소스이며 Apache-2.0 라이선스를 따르는 파이썬 프레임워크로, 로컬에서 LLM 기반 에이전트를 실행할 수 있습니다. 단일 채팅 세션이 자율 에이전트가 되어 내장 도구(검색, 파일 입출력, 코드 실행, OCR, 이미지 생성), 과거 작업 기억, 하위 에이전트 생성 또는 작업 위임이 가능합니다. CLI, 로컬 웹 UI, 데스크톱 앱, IM 게이트웨이(WeChat, Feishu, Telegram)를 통해 작동합니다. OpenAI, DeepSeek, Claude, Ollama 등 다양한 모델 제공자 지원, 비동기 우선 API, 안전성 가드레일, 다중 모달 입력, 지속적 메모리, 마크다운 기반 스킬 시스템, RAG 통합 제공. `pip install -U agentica` (옵션으로 [gateway]를 추가하면 웹 UI 포함)로 설치하고 API 키를 설정하세요. 개발자, 연구자, 파워 유저가 협업 가능한 다중 에이전트 기능을 갖춘 자체 호스팅형 "LLM OS"를 원하는 분들에게 적합합니다.

  • 프로젝트
    jaylfc/taOS

    taOS는 AI 에이전트를 위한 브라우저 기반 데스크톱, 분산 컴퓨팅 클러스터 및 로컬 메모리 서비스(taOSmd)를 제공하는 오픈소스 자체 호스팅 AI 플랫폼입니다. 모든 하드웨어(PC, SBC, 폰)에서 실행되며, 17개의 프레임워크에서 에이전트를 설치 및 관리할 수 있게 해줍니다. 모든 대화, 파일 및 지식 그래프는 자신의 머신에 저장되며 클라우드 모델은 선택 사항입니다.