ARahim3/mlx-tune
Fine-tune LLMs on your Mac with Apple Silicon. SFT, DPO, GRPO, Vision, TTS, STT, Embedding, and OCR fine-tuning — natively on MLX. Unsloth-compatible API.
What it solves
mlx-tune は、Mac ユーザーが Apple Silicon 上でさまざまな AI モデルをローカルでファインチューニングできる方法を提供します。開発者が Mac でトレーニングスクリプトをプロトタイプ・イテレーションし、Unsloth ライブラリを使ってコードを書き直すことなくクラウド GPU にスケールアップしたいという「コンテキストスイッチ」問題を解決します。
How it works
Apple のネイティブ MLX フレームワークを Unsloth 互換の API でラップします。これにより、ユーザーは Mac 上で FastLanguageModel や SFTTrainer といった慣れ親しんだクラスを使ってトレーニングコードを書き、同じスクリプトを CUDA 環境へ移行して本番トレーニングが可能になります。テキスト、ビジョン、オーディオ、OCR など幅広いモダリティをサポートし、Mac のユニファイドメモリを活用して効率的なローカルトレーニングを実現します。
Who it’s for
Apple Silicon（M1〜M5）を使用する開発者や AI 研究者で、ローカルでプロトタイプ、学習、ファインチューニングパイプラインのイテレーションを行い、後にクラウドの NVIDIA GPU にデプロイしたい方。
Highlights
- Broad Model Support: Fine-tune LLMs, Vision-Language Models (VLMs), Text-to-Speech (TTS), Speech-to-Text (STT), Embeddings, and OCR models.
- Unsloth-Compatible API: Allows for seamless code portability between Mac and CUDA clusters.
- Advanced Training Methods: Supports SFT, DPO, ORPO, GRPO, KTO, and SimPO.
- uma Unified Memory: Can leverage up to 512GB of unified memory on Mac Studio.
- JEPA Integration: Implements Joint-Embedding Predictive Architecture (JEPA) for vision, video, and LLM fine-tuning.
- Flexible Export: Export models in HuggingFace format or GGUF for use with Ollama and llama.cpp.