andrew-waters/orchard

What it solves

Orchard는 Apple의 container 툴링을 관리하기 위한 네이티브 macOS 데스크톱 인터페이스를 제공합니다. 이는 컨테이너, 지속성 Linux VM(컨테이너 머신), 그리고 로컬 Kubernetes 클러스터를 실행하는 복잡한 과정을 단순화하는 동시에, 특히 로컬 AI 모델과 샌드박스된 에이전트를 실행하기 위한 간소화된 워크플로우를 추가합니다.

How it works

Swift와 SwiftUI로 구축된 Orchard는 CLI로 셸을 호출하는 대신 Apple의 네이티브 XPC API를 통해 컨테이너 데몬과 통신합니다. 이를 통해 실시간 리소스 모니터링, 구조화된 데이터 처리, 그리고 macOS와의 깊은 통합이 가능합니다. AI 워크로드의 경우, 로컬 MLX 모델 서버(Ollama 또는 LM Studio와 같은)를 컨테이너와 연결하여, 컨테이너화된 앱이 OpenAI SDK를 사용하여 로컬 GPU에 액세스할 수 있도록 필요한 네트워크 엔드포인트를 자동으로 주입합니다.

Who it’s for

무거운 Electron 기반 도구 나 독점 런타임에 의존하지 않고 컨테이너와 로컬 LLM을 실행하기 위한 고성능, 격리된 환경을 원하는 macOS 사용 개발자와 AI 엔지니어.

Highlights

• Local AI Sandboxes: AI 에이전트를 로컬 모델 엔드포인트와 API 키 유출을 방지하기 위한 킬 스위치(kill-switch)가 있는 하이퍼바이저 경계 뒤에서 실행합니다.
• Native Performance: Apple의 Virtualization.framework를 사용하여 1초 미만의 시작 시간과 커널 격리를 제공합니다.
• Container Machines: 실시간 CPU, 메모리, 디스크 사용 통계를 제공하는 지속성 및 상태 유지 Linux VM의 전체 관리를 지원합니다.
• Kubernetes Integration: container k8s 플러그인을 통해 로컬 k8s 클러스터를 원클릭으로 생성하고 관리합니다.
• Command Palette: 리소스에 빠르게 이동하거나 "stop db"와 같은 작업을 실행하기 위한 퍼지 검색(fuzzy-search) 인터페이스(Cmd+K)를 제공합니다.
• Multi-pane Log Viewer: 여러 컨테이너의 로그를 색상 코딩과 함께 나란히 스트리밍하고 필터링할 수 있습니다.