john-rocky/coreai-model-zoo

Community model zoo for Apple Core AI (iOS/macOS 27): 49 models — LLM, VLM, OCR, ASR, TTS, image/video/music gen, forecasting — converted, verified on real devices, downloadable from Hugging Face, and runnable in one line of Swift via CoreAIKit. Plus conversion recipes, on-device benchmarks, custom Metal kernels, and a knowledge base.

解決する課題

Appleデバイス（iOSおよびmacOS）で大規模言語モデルやその他のAIモデルを実行するには、複雑な変換プロセスが必要になることがよくあります。このリポジトリは、AppleのCore AI向けに変換済みのモデルの集中カタログと、それらを作成するために使用された正確なレシピを提供し、開発者が高性能なオンデバイスAIをアプリケーションに簡単に統合できるようにします。

仕組み

このプロジェクトは、デバイス検証済みのダウンロード可能な .aimodel ファイルを提供します。各モデルには、使用された正確な変換プロセスを記録した recipe.toml ファイルが含まれています。ユーザーは以下のことが可能です：

  • CoreAIKit Swiftパッケージを使用して、モデルを直接ダウンロードして実行する。
  • 提供されたPython変換スクリプト (zoo_convert.py) を使用して、再現性を確保するためにモデルを再構築する。
  • zoo_verify.py を使用して、ソースモデルとバンドルを照合し、整合性を検証する。

対象者

  • アプリにオフラインのオンデバイスAI（テキスト、ビジョン、オーディオ、またはロボティクス）を統合したいiOS/macOS開発者。
  • 特定のモデルアーキテクチャ（MoEや拡散モデルなど）がAppleのハードウェアに移植された際にどのように動作するかを確認したいAI研究者。
  • AppleのCore AIエコシステム向けに信頼できる変換レシピを必要とする機械学習エンジニア。

ハイライト

  • 多様なモデルサポート: LLM、視覚言語モデル、音声認識、音声合成、さらにはロボティクス/アクションモデルが含まれます。
  • 再現可能な変換: すべてのモデルには、同じ結果を生成するために再実行可能なレシピが付属しています。
  • オンデバイス重視: iPhoneおよびMacハードウェア上で完全にオフラインで動作するように最適化されています。
  • 広範なカタログ: Qwen、Gemma、Llama、およびBitCPM (1.58-bit ternary LLM) のような特化型モデルを含む、幅広いアーキテクチャを特徴としています。