ml-explore/mlx-swift-lm

解決する課題

開発者が MLX Swift フレームワーク向けに最適化された大規模言語モデル（LLM）および視覚言語モデル（VLM）を使用してアプリケーションを構築できるようにする Swift パッケージを提供します。

仕組み

このプロジェクトは、共通 API（MLXLLMCommon）と、LLM（MLXLLM）、VLM（MLXVLM）、埋め込みモデル（MLXEmbedders）向けの具体的な実装を提供します。プロトコル準拠を通じてさまざまなトークナイザーおよびモデルダウンロードパッケージと統合し、Hugging Face などのソースからモデルを読み込むことができます。また、MLX モデルを Apple の FoundationModels フレームワークと統合するためのブリッジ（MLXFoundationModels）と、出力が JSON や EBNF などの特定のスキーマに従うようにするための文法制約付き生成ツール（MLXGuidedGeneration）も含まれています。

対象読者

Apple プラットフォーム上で AI を活用したツールやアプリケーションを構築し、効率的なモデル推論とファインチューニングのために MLX を活用したい Swift 開発者。

ハイライト

• LLM と視覚言語モデル（VLM）の両方をサポート。
• 低ランク（LoRA）およびフルモデルのファインチューニングに対応。量子化モデルのサポートも含む。
• 文法制約付き生成により、モデル出力を特定の JSON スキーマまたは EBNF に強制。
• Apple の FoundationModels API と統合し、LanguageModelSession で使用可能。
• さまざまなトークナイザーおよびダウンローダーパッケージとの柔軟な統合。