andrew-waters/orchard

What it solves

Orchard 提供了一個原生的 macOS 桌面介面，用於管理 Apple 的 container 工具。它簡化了執行容器、持久性 Linux VM（容器機器）以及本地 Kubernetes 叢集的複雜過程，同時特別為執行本地 AI 模型和沙盒化代理（sandboxed agents）增加了流暢的工作流程。

How it works

Orchard 使用 Swift 和 SwiftUI 建構，透過 Apple 的原生 XPC API 與容器守護程序（daemon）進行通訊，而非透過 CLI 呼叫指令。這使得它能夠進行即時資源監控、結構化數據處理，並與 macOS 深度整合。對於 AI 工作負載，它將本地 MLX 模型伺服器（例如 Ollama 或 LM Studio）橋接到容器中，自動注入必要的網路端點，以便容器化應用程式可以使用 OpenAI SDK 來存取本地 GPU。

Who it’s for

在 macOS 上的開發者和 AI 工程師，希望擁有一個高效能、隔離的環境來執行容器和本地 LLM，而不依賴笨重的 Electron 架構工具或專有運行時（runtimes）。

Highlights

• Local AI Sandboxes: 執行 AI 代理，使其位於 Hypervisor 邊界後方，並配備本地模型端點和一個用於防止 API 金鑰洩漏的「終止開關」（kill-switch）。
• Native Performance: 使用 Apple 的 Virtualization.framework 以實現亞秒級的啟動時間和內核隔離。
• Container Machines: 對持久且具備狀態的 Linux VM 進行完整管理，並提供即時的 CPU、記憶體和磁碟使用率統計數據。
• Kubernetes Integration: 透過 container k8s 外掛程式，一鍵建立並管理本地 k8s 叢集。
• Command Palette: 一個模糊搜尋介面（Cmd+K），可快速跳轉至資源或執行如「stop db」等動作。
• Multi-pane Log Viewer: 並排串流並過濾來自多個容器的日誌，並附帶顏色編碼。