Swift Transformers 1.0 リリースノート / 新機能

Hugging Face は Swift Transformers 1.0 をリリースしました。これは、iPhone を含む Apple Silicon プラットフォーム上でローカルの大規模言語モデル（LLM）を統合する開発者の負担を軽減することを目的とした、安定版ライブラリです。このリリースは、ライブラリが安定状態へ移行したことを示し、Core ML と MLX を補完するトークナイゼーション、モデルのダウンロード、推論のための重要なインフラストラクチャを提供します。

Swift Transformers のコアコンポーネント

Swift Transformers は、Apple Silicon の機械学習エコシステムのギャップを埋める 3 つの主要モジュールを提供します。

  • Tokenizers: 入力の前処理、チャットテンプレート、エージェント的ユースケースを処理する高速な Swift 実装で、Hugging Face の Python および Rust ライブラリと同様の使い勝手を提供します。
  • Hub: Hugging Face Hub への Swift インターフェースで、オープンモデルのダウンロードとローカルキャッシュを可能にします。オフラインモードとバックグラウンドでの再開可能ダウンロードをサポートしますが、現在アップロードはサポートされていません。
  • Models and Generation: Core ML 形式に変換された LLM のラッパーで、変換が完了した後の推論実行プロセスを簡素化します。

バージョン 1.0 の主な更新点

バージョン 1.0 では、プロダクションアプリ開発を支援するためのアーキテクチャ改善と安定性向上がいくつか導入されました。

モジュラーアーキテクチャと依存関係の削減

Tokenizers と Hub は現在、第一級のトップレベルモジュールとなり、開発者はパッケージ全体ではなく必要なコンポーネントだけをインポートできるようになりました。オーバーヘッドを削減しバージョン競合を防ぐため、ライブラリからサンプル CLI ターゲットと swift-argument-parser 依存が削除されました。

パフォーマンスと API の強化

  • Swift Jinja Integration: John Mai と協力し、ライブラリは新しいバージョンの swift-jinja を使用するようになりました。これにより、複雑なチャットテンプレートの処理が数桁速くなると報告されています。
  • Modern Core ML APIs: Apple の貢献により、ライブラリはステートフルモデル（KV キャッシュを容易にする）と表現力豊かな MLTensor API をサポートするようになり、数千行に及ぶカスタムテンソル数学コードが不要になりました。
  • Swift 6 Support: ライブラリは Swift 6 と完全に互換性があります。
  • API Refinement: 公開 API の範囲が縮小され、認知負荷が低減されました。また、すべての公開 API にドキュメンテーションコメントが追加されました。

コミュニティでの採用と統合

Swift Transformers は現在、いくつかのハイプロファイルな Apple Silicon プロジェクトで利用されています。

  • mlx‑swift‑examples (Apple): ライブラリを使用して、MLX 経由で LLM と VLM（ビジョン・ランゲージモデル）を実行します。
  • WhisperKit (argmax): Hub と Tokenizers モジュールに依存する、最適化されたオープンソースの音声認識フレームワークです。
  • FastVLM (Apple): ビジョン・ランゲージモデルのデモで、Hugging Face の独自の SmolVLM2 ネイティブアプリも含まれます。

今後のロードマップ

Hugging Face は今後の開発を 2 つの主要領域に注力する予定です。

  1. MLX Integration: MLX の体験をシームレスに向上させることを目指し、特に mlx-swift-examples と連携して LLM と VLM の頻繁な前処理・後処理操作を改善します。
  2. Agentic Workflows: エージェント的ユースケースと Model Context Protocol (MCP) を検討し、システムリソースをローカルワークフローに公開できるようにします。

Sources