jjang-ai/mlxstudio

What it solves

MLX Studio は、Apple Silicon 上でローカルに大規模言語モデル（LLM）、ビジョン・ラングエッジモデル（VLM）、画像生成モデルを実行できるネイティブ macOS デスクトップアプリケーションです。クラウドサービスや API キー、データ転送の必要がなく、プライベートでオールインワンのローカル AI 環境を提供します。

How it works

vMLX Engine と Apple の MLX フレームワーク上に構築され、Metal を利用して高性能推論を実現します。HuggingFace からモデルをダウンロードし、セッションを管理し、チャットインターフェースまたは OpenAI 互換 API サーバーを通じて AI と対話できるユーザーフレンドリーなインターフェースを提供します。また、JANG アダプティブ混合精度などの高度な量子化技術を搭載し、Mac ハードウェア上でモデルサイズとメモリ使用量を最適化します。

Who it’s for

Apple Silicon（M 系列チップ）搭載の macOS ユーザー向けで、チャット、コーディング、画像生成、または他のアプリケーション向けローカル API バックエンドとして、さまざまな AI モデルをローカルで実行したい方に最適です。

Highlights

• Extensive Model Support：テキスト LLM、ビジョンモデル、マルチモーダル omni モデルを含む 65 以上のモデルファミリーをサポート。
• OpenAI & Anthropic Compatibility：OpenAI と Anthropic SDK 用のドロップイン置換 API サーバーを提供。
• Agentic Workflows：ファイル I/O、シェル実行、ウェブ検索、MCP（Model Context Protocol）サポートなど 26 以上の組み込みツールを含む。
• Local Image Generation：Flux と Z-Image モデルのローカル画像生成と編集を統合サポート。
• L5 Cache Stack：プレフィックスキャッシュとページング KV キャッシュを含む 5 層キャッシュシステムでスループットとメモリ効率を最大化。
• Advanced Quantization：JANG アダプティブ混合精度と「Smelt Mode」を備え、MoE モデルの部分エキスパートロードで RAM を節約。
• Integrated Model Tools：アプリ内ツールで GGUF モデルを MLX 形式に変換し、さまざまな量子化タスクを実行可能。