Local AI, native to your Mac. Chat, serve, monitor, and connect MLX models from one macOS app.

Nativ – macOS에서 제공하는 로컬 AI

개요

Nativ는 Apple 실리콘 Mac에서 대규모 언어 모델, 비전 모델, 음성 모델을 로컬로 실행할 수 있는 네이티브 macOS 애플리케이션(SwiftUI로 작성)입니다. 오픈 소스 mlx-vlm 서버(MLX 런타임 사용)를 번들로 제공하며, 채팅, 이미지 생성, 오디오 받아쓰기, 모델 관리, 성능 모니터링, OpenAI 호환 API 노출 등을 위한 세련된 UI를 제공합니다.

주요 기능 (README의 설명에 따름)

기능	설명
로컬 채팅 및 비전	스트리밍 응답, 이미지 첨부, 메트릭, 영구 기록을 갖춘 대화형 UI.
다중 창	동일한 추론 서버와 모델을 공유하는 별도의 작업 공간.
공유 작업 창	채팅 옆에 문서, 코드, HTML, 웹사이트를 열 수 있으며, 에이전트가 동일한 창을 편집하거나 상호 작용할 수 있음.
이미지 생성 및 편집	"이미지" 탭에서 호환되는 MLX 이미지 모델을 실행.
모델 라이브러리	설치된 MLX 모델 검색, Hugging Face 탐색, 메모리 적합 경고 표시, 외부 APFS에 캐시 저장, 여러 모델 유형 사전 로드, 관리.
성능 분석	요청 볼륨, 토큰 사용량, 지연 시간, 디코딩 속도 등을 추적.
시스템 모니터	코어별 CPU, GPU, 메모리, 디스크, SMART 상태, 열, 전원 센서의 실시간 표시.
로컬 API	OpenAI 호환 `/v1/chat/completions`, `/v1/models`, 이미지, 오디오, 임베딩, Anthropic 호환 `/v1/messages`.
코딩 도구 통합	사전 구성된 에이전트(Claude, Codex 등) 및 편집기(VS Code, Cursor, Zed, JetBrains 등)가 로컬 서버와 통신 가능.
개발자 작업 공간	서버 호스트/포트, Hugging Face 토큰, 런타임 세부 정보, 로그 보기, 상태 모니터.
메뉴 막대 컨트롤	빠른 시작/중지, 모델 전환, CPU/GPU/RAM 실시간 미니 그래프.
확장 플랫폼	버전 관리되는 확장 프로그램 설치/비활성화; 자사 오디오 확장 프로그램은 받아쓰기 UI, 단축키, 분석을 추가.
아티팩트 브라우저	채팅에서 생성된 이미지/문서를 찾아보고, 필터링하고, 의미적으로 검색.
MCP 서버	모델 컨텍스트 프로토콜 서버를 연결하여 도구 수준 확장 가능.
예약 작업	키트, 도구, 기술을 사용하여 저장된 프롬프트를 예약 실행.
고급 추론 컨트롤	샘플링, 예산, 구조화된 출력, KV 캐시 양자화, 추측 디코딩 등.

작동 방식 (고수준 아키텍처)

Nativ (SwiftUI app) → NativServerKit → bundled mlx-vlm server → MLX runtime → local Apple-silicon models

NativServerKit는 임베디드 Python 런타임을 제공하고 mlx-vlm 서버의 수명 주기를 관리합니다.
서버는 MLX 라이브러리를 사용하여 추론을 실행하며, Mac의 통합 메모리와 GPU에서 직접 실행됩니다.
SwiftUI 프런트엔드는 localhost HTTP를 통해 서버와 통신하며, OpenAI/Anthropic 서비스가 제공하는 것과 동일한 엔드포인트를 노출합니다.

시작하기

사전 빌드 – 최신 GitHub 릴리스에서 DMG를 다운로드하거나 Homebrew(brew install --cask nativ)로 설치합니다. 앱은 Sparkle로 자동 업데이트됩니다.
첫 실행 – 호환되는 모델을 선택하거나 다운로드하고, 필요에 따라 API 키를 설정하고, 마이크/접근성 권한을 부여한 후 채팅을 시작합니다.
소스에서 – Xcode 26+, Swift 5, xcodegen, Python 3, Metal 툴체인이 필요합니다. make xcode-generate && make xcode-build로 빌드합니다. 첫 빌드는 재배치 가능한 Python 번들을 조립하고 고정된 mlx-vlm 종속성을 설치합니다.

시스템 요구 사항

Apple 실리콘 Mac(M1/M2/…)
macOS 26 이상
선택한 모델에 충분한 통합 메모리
게이트 모델용 선택적 Hugging Face 토큰

확장성

확장 프로그램 – UI 페이지, 명령, 단축키, 권한을 추가하는 패키지. 내장 오디오 확장 프로그램은 음성 받아쓰기를 제공합니다.
키트 및 MCP – 개발자는 추가 기능(예: 사용자 정의 도구)을 제공할 수 있으며, 채팅이 이를 호출할 수 있습니다.

일반적인 사용 사례

개인 로컬 채팅 어시스턴트 – 인터넷 없음, 완전한 데이터 제어.
로컬 API 서버 – curl을 실행하거나 VS Code, Cursor 등을 구성하여 OpenAI 호환 엔드포인트를 사용.
이미지 생성 – 앱을 떠나지 않고 이미지를 생성하거나 편집.
음성 받아쓰기 – 오디오를 캡처하고, 로컬로 전사하고, 어떤 앱에도 삽입.
성능 모니터링 – 모델이 CPU/GPU를 어떻게 사용하는지 확인하고 설정을 조정.

위의 모든 세부 사항은 저장소의 README에서 직접 가져온 것입니다.

Blaizzy/nativ