Apple Foundation Models Framework: オンデバイスおよびサーバーLLMのための単一のSwift API
AppleのFoundation Modelsフレームワークは、大規模言語モデルをアプリ内に組み込むためのネイティブSwift APIであり、その決定的な特徴は統合です。同じAPIが、Appleのオンデバイス基盤モデル、Private Cloud Compute上で動作するApple Foundation Models、そしてClaudeやGeminiなどのサードパーティ製サーバーモデルに到達します。iOSおよびmacOS開発者にとって、これはガイド付き生成、ツール呼び出し、画像理解、動的セッション構成が、プロバイダーごとの統合ではなくフレームワークの機能であることを意味します。
Foundation Modelsフレームワークとは
Foundation Modelsフレームワークは、あらゆる大規模言語モデルをアプリに統合するためのネイティブSwift APIであり、オンデバイスおよびPrivate Cloud ComputeでのApple Foundation Modelsへの直接アクセスを含みます。Appleはこれを「アプリであらゆる大規模言語モデルを使用する最良の方法」と説明し、クイックサマリーから動的エージェントまで幅広いタスクに位置づけています。
フレームワークに組み込まれた機能は次のとおりです。
- ガイド付き生成
- ツール呼び出し
- 画像理解
- 動的プロファイル
モデルサポート: オンデバイス、Private Cloud Compute、およびサードパーティ製サーバー
このフレームワークは、Apple Intelligenceの中核となるオンデバイス基盤モデルへの直接アクセスを開発者に提供します。Appleはこれを、スマートでプライベート、そしてインターネット接続なしで機能すると説明しています。オンデバイスモデルは多くのタスクをカバーしますが、Appleはより複雑なワークフローにはより大きなモデルが必要になる場合があることを認めています。
このギャップは、フレームワークをサーバーモデル(Claude、Geminiなど)に拡張することで対処されており、同じSwift APIを通じて、ツール呼び出しとガイド付き生成を完全にサポートします。拡張メカニズムはプロトコルです。任意のモデルプロバイダーが、Language Modelプロトコルに準拠するSwiftパッケージを公開できます。Appleはこれをフレームワークの基本コンポーネントと説明し、開発者がアプリに適した言語モデルを選択できるようにします。
Private Cloud Computeと小規模開発者向けの無料アクセス
Apple Foundation Modelsは、Private Cloud Compute(PCC)上でも実行できます。App Store Small Business Programに登録し、初回App Storeダウンロード数が200万未満の開発者は、クラウドAPIコストなしでPrivate Cloud Compute上で実行されるApple Foundation Modelsにアクセスできます。Appleは、これによりユーザーデータが保存されず、Appleや他の誰もアクセスできないというプライバシー保護のもとで、最先端のインテリジェンスを提供すると述べています。
画像理解
マルチモーダルプロンプトにより、アプリはテキストと一緒に画像を渡すことができ、モデルは視覚コンテンツについて推論できます。Appleは、この統合はプロンプトに画像を添付するのと同じくらい簡単だと説明しています。Visionフレームワークも直接統合されており、正確なテキスト抽出のためのOCRや、迅速なコードスキャンのためのバーコードリーダーなど、モデルに目的に特化したツールを提供します。これらはすべてオンデバイスで実行されます。
動的プロファイル: セッション中のモデル切り替え
動的プロファイルは、セッションのモデル、ツール、指示をその場で継続的に更新するための宣言型APIです。固定構成でセッションを作成する代わりに、開発者はプロファイルを定義します。各プロファイルには独自のモデル、温度、推論レベル、ツールセットがあり、単一の継続セッション内でそれらを切り替えます。セッションのトランスクリプトはすべてのプロファイル切り替えで共有されるため、アプリはプロンプトを減らしてコンテキストインテリジェンスを蓄積できます。Appleは動的プロファイルを、AIエージェント、スキル、またはその他の高レベル抽象化のための適応可能なビルディングブロックと説明しています。
評価フレームワーク
評価フレームワークは、プロンプトをテストし、インテリジェンス機能が動的条件全体で正しく機能することを検証します。これは単体テストだけでは捕捉できないものを超えています。Appleはこれを、指示の反復、モデルの切り替え、動的プロファイルの調整に位置づけており、開発者は出荷前に動作が維持されることを確認できます。
fmコマンドラインツール
macOS 27の新しいfmコマンドラインツールを使用すると、開発者はアプリコードを書かずにモデルワークフローをスクリプト化、自動化、プロトタイプ作成できます。Appleはこれをアイデアから実装への高速パスと位置づけています。
オープンソースパッケージ
Appleはフレームワークとともに2つのオープンソースプロジェクトを提供しています。
- Foundation Modelsフレームワークユーティリティパッケージは、フレームワーク上に実験的な抽象化を追加します。カスタムスキル、コンテキスト管理ヘルパー、選択したホスト型モデルに接続するChat Completionsクライアントが含まれます。
- Foundation Models SDK for Pythonは、フレームワークをPythonエコシステムに拡張し、一般的なPythonツールや評価パッケージとの統合を可能にします。
要件と規制に関する注記
Appleは、Foundation Modelsフレームワークの許容使用要件を公開しており、Apple Foundation Modelsの禁止された使用法を概説しています。別途、AI法第53条(1)(b)に基づき、AppleはAFM 3 Cloudを自社のAIシステムに統合しようとするAIシステムのプロバイダーに情報と文書を提供します。
開発者が議論した内容
フレームワークに関するHacker Newsのスレッドは小規模(22コメント)で、実践的な経験と未解決の質問が混在していました。複数のコメンターが、過小評価されていると思われる隣接するAppleの取り組みを指摘しました。
あるコメンターはAppleのCoreAIリポジトリを強調し、同社がオープンウェイトモデルをSwiftでネイティブに実行できるように適応させていると述べました。
実際、彼らのCoreAIの取り組みはあまり注目されていないと思います。しかし、https://github.com/apple/coreai-models にリポジトリがあり、多数のオープンウェイトモデルを彼らのフォーマットに適応させて、Swiftでネイティブに実行できるようにしています。
スレッドで最も実質的な質問は、Private Cloud Computeの提供が無料推論に相当するかどうかでした。Appleの資格条件を引用して、あるコメンターは次のように尋ねました。
これは無料トークンですか?無料トークンのように聞こえますが?
AppleのリンクされたPCCページには、Apple Intelligenceが利用可能な場所では、対象となる開発者はApp Storeで配布されるアプリでPCCを使用でき、TestFlightまたはアドホック配布を介してPCC機能をテストできると記載されています。また、テスト中のインストールは初回アプリダウンロードとしてカウントされません。
実践的な面では、ある開発者がターミナルでローカルモデルを実行してエラー修正やコマンド提案を行っていると報告し、モデルは「m1 8gbで驚くほど能力が高い」と述べました。これは彼らがローカルAIが実行する必要がある最小のマシンと呼んだものです。別の開発者は、NoodleというアプリでFoundation Modelsを使用しており、作業は気に入っているが、Private Cloud Computeはまだ探索しておらず、特別な権限が現在Siriデスクトップアプリに限定されている可能性があると推測しました。
あるコメンターは、AnthropicがClaudeForFoundationModelsリポジトリを介して数ヶ月間Foundation ModelsのApp Attestをサポートしていると指摘し、Anthropicがこれをあまり宣伝しないことに驚きを表明し、Firebaseが複雑な設定なしでiOSアプリから直接LLMを呼び出す最も実用的な方法であったと付け加えました。
スレッドによって残された未解決の質問
議論からの3つの質問は、ソース資料では未回答のままです。
- Private Cloud Computeの許容量が、対象となる小規模開発者にとって事実上無料のトークン使用であるかどうか。
- ClaudeまたはChatGPTの非API消費者プランをこのフレームワークを通じて使用できるかどうか。
- オンデバイスモデルが、例えばZedのようなエディタでコーディング予測子として機能するのに十分な能力があるかどうか。
あるコメンターはまた、そのページがその瞬間にHacker Newsに表示された理由を尋ね、更新があったかどうかを尋ねました。これは、フレームワークの機能が一度のローンチではなく段階的に展開されていることを思い出させるものです。