Nativ – macOS 上で動作するローカル AI

概要

Nativ は、Appleシリコン搭載Mac上で大規模言語モデル、ビジョンモデル、音声モデルをローカルに実行できるネイティブmacOSアプリケーション（SwiftUIで記述）です。オープンソースの mlx-vlm サーバー（MLXランタイムを使用）をバンドルし、チャット、画像生成、音声ディクテーション、モデル管理、パフォーマンス監視、OpenAI互換APIの公開など、洗練されたUIを提供します。

主な機能（READMEの説明による）

機能	説明
ローカルチャット＆ビジョン	ストリーミング応答、画像添付、メトリクス、永続的な履歴を備えた会話型UI。
複数ウィンドウ	同じ推論サーバーとモデルを共有する個別のワークスペース。
共有ワークペイン	ドキュメント、コード、HTML、ウェブサイトをチャットの横に開くことができ、エージェントが同じペインを編集または操作可能。
画像生成＆編集	「画像」タブで互換性のあるMLX画像モデルを実行。
モデルライブラリ	インストール済みのMLXモデルの検出、Hugging Faceの参照、メモリ適合警告の表示、外部APFSへのキャッシュ保存、複数モデルタイプのプリロード、管理。
パフォーマンス分析	リクエスト量、トークン使用量、レイテンシ、デコード速度などを追跡。
システムモニター	コアごとのCPU、GPU、メモリ、ディスク、SMART健康状態、熱、電源センサーのライブ表示。
ローカルAPI	OpenAI互換の /v1/chat/completions、/v1/models、画像、音声、埋め込み、Anthropic互換の /v1/messages。
コーディングツール統合	事前設定済みのエージェント（Claude、Codexなど）とエディタ（VS Code、Cursor、Zed、JetBrainsなど）がローカルサーバーと通信可能。
開発者ワークスペース	サーバーのホスト/ポート、Hugging Faceトークン、ランタイム詳細、ログビュー、ヘルスモニター。
メニューバーコントロール	クイック起動/停止、モデル切り替え、CPU/GPU/RAMのライブミニグラフ。
拡張プラットフォーム	バージョン管理された拡張機能のインストール/無効化。ファーストパーティの音声拡張機能は、ディクテーションUI、ショートカット、分析を追加。
アーティファクトブラウザ	チャットで生成された画像/ドキュメントの閲覧、フィルタリング、セマンティック検索。
MCPサーバー	モデルコンテキストプロトコルサーバーを接続してツールレベルの拡張が可能。
スケジュールタスク	キット、ツール、スキルを使用して、保存されたプロンプトをスケジュール実行。
高度な推論コントロール	サンプリング、予算、構造化出力、KVキャッシュ量子化、投機的デコードなど。

仕組み（高レベルアーキテクチャ）

Nativ (SwiftUI app) → NativServerKit → bundled mlx-vlm server → MLX runtime → local Apple-silicon models

• NativServerKit は組み込みPythonランタイムを提供し、mlx-vlm サーバーのライフサイクルを管理します。
• サーバーはMLXライブラリを使用して推論を実行し、MacのユニファイドメモリとGPU上で直接実行されます。
• SwiftUIフロントエンドは localhost HTTP経由でサーバーと通信し、OpenAI/Anthropicサービスが提供するものと同じエンドポイントを公開します。

始め方

• プリビルド – 最新のGitHubリリースからDMGをダウンロードするか、Homebrew（brew install --cask nativ）でインストールします。アプリはSparkleで自動更新されます。
• 初回起動 – 互換性のあるモデルを選択またはダウンロードし、必要に応じてAPIキーを設定し、マイク/アクセシビリティの許可を付与して、チャットを開始します。
• ソースから – Xcode 26以降、Swift 5、xcodegen、Python 3、Metalツールチェーンが必要です。make xcode-generate && make xcode-build でビルドします。初回ビルドでは、リロケータブルPythonバンドルが組み立てられ、固定された mlx-vlm 依存関係がインストールされます。

システム要件

• Appleシリコン搭載Mac（M1/M2/…）
• macOS 26以降
• 選択したモデルに十分なユニファイドメモリ
• ゲート付きモデル用のオプションのHugging Faceトークン

拡張性

• 拡張機能 – UIページ、コマンド、ショートカット、権限を追加するパッケージ。組み込みの Audio 拡張機能は音声ディクテーションを提供します。
• キットとMCP – 開発者は追加機能（カスタムツールなど）を提供でき、チャットが呼び出すことができます。

典型的な使用例

1. プライベートローカルチャットアシスタント – インターネットなし、データの完全な制御。
2. ローカルAPIサーバー – curl を実行するか、VS Code、Cursorなどを設定してOpenAI互換エンドポイントを使用。
3. 画像生成 – アプリを離れることなく画像を生成または編集。
4. 音声ディクテーション – オーディオをキャプチャし、ローカルで書き起こし、任意のアプリに挿入。
5. パフォーマンス監視 – モデルがCPU/GPUをどのように使用するかを確認し、設定を調整。

---

上記のすべての詳細は、リポジトリのREADMEから直接取得しています。