apple/coreai-models
Model export recipes, Python primitives, and Swift runtime utilities for on-device AI
何を解決するか
このプロジェクトは、Apple silicon(macOSおよびiOS)上でオープンソースAIモデルをデプロイするための包括的なツールキットを提供します。Hugging Faceなどのソースから人気のあるモデルを、AppleのCore AIフレームワークと互換性のある形式に変換するプロセスを簡素化し、アプリケーションに統合するための必要なランタイムユーティリティも提供します。
仕組み
ツールキットは4つの主要なコンポーネントに分かれています:
- モデルエクスポート: PyTorchモデルを独立した
.aimodelファイルに変換するレシピを提供します。 - Pythonプリミティブ: デベロッパーがPyTorchでカスタムCore AIモデルを構築するためのビルディングブロックを提供します。
- ランタイムユーティリティ: iOSおよびmacOSアプリ内でこれらのエクスポートされたモデルを統合・実行するのを支援するSwiftパッケージ。
- エージェントスキル: Claude Code、Codex CLI、Gemini CLIなどのコードエージェント用のプラグインで、Appleプラットフォーム向けのモデルのデプロイ、作成、圧縮について専門的なガイダンスを提供します。
対象ユーザー
Appleプラットフォーム向けのオンデバイスAIアプリケーションを開発しており、既存のオープンソースモデルを変換するか、Apple silicon向けに最適化されたカスタムモデルを作成したい開発者。
主な特徴
- 選別されたモデルカタログ: 特定のエクスポートレシピ付きの対応モデルのレジストリを含む。
- オンデバイス実行: macOSおよびiOS 27.0+専用に設計。
- モデル圧縮:
coreai-optを通じて重み圧縮、量子化、パレット化を探索するためのツール。 - コードエージェント統合: AIコードアシスタントがデプロイワークフローを自動化するのを支援する専用プラグイン。
関連
- プロジェクト
- Dispatch
- プロジェクト
- プロジェクト
- プロジェクト