Arthur-Ficial/apfel

The free AI already on your Mac. CLI tool, OpenAI-compatible server, and interactive chat — all on-device via Apple Intelligence. No API keys, no cloud, no downloads.

解決する課題

apfel は、Apple Silicon Macに搭載されている Apple FoundationModels 経由の組み込み大規模言語モデル (LLM) にアクセスする方法を提供します。このデバイス内モデルを、利用可能なUNIXツールおよびローカルのOpenAI互換サーバーへと変換し、すべてのデータを100%デバイス内に保持したまま、APIキーやクラウドへの依存、コストを回避することを可能にします。

仕組み

このプロジェクトは FoundationModels.SystemLanguageModel へのブリッジとして機能します。主に以下の3つのインターフェースを提供します：

  • UNIX Tool: 入力のパイプ処理、ファイルの添付（デバイス内OCR/抽出によるPDFや画像を含む）、JSONまたはコードのみの出力生成をサポートするコマンドラインインターフェース (CLI)。
  • OpenAI互換サーバー: 既存のOpenAI SDKやツールがデバイス内のAppleモデルをバックエンドとして使用できるようにするローカルHTTPサーバー (http://localhost:11434/v1)。
  • 対話型REPL: プロンプトやツールのテスト用のチャットモード (apfel --chat)。

また、LLMが外部ツール（ローカルまたはリモート）を検出して呼び出せるようにするための Model Context Protocol (MCP) にも対応しています。

対象ユーザー

AIをローカルで実行したい、シェルスクリプトにAIを統合したい、あるいはクラウドベースのLLM APIを無料でプライベートなデバイス内代替手段に置き換えたいと考えている、Apple Silicon (M1+) 搭載の macOS 26 Tahoe 以降のデベロッパーおよびパワーユーザー。

ハイライト

  • 100% デバイス内: クラウド不要、APIキー不要、完全なプライバシー。
  • OpenAI API 互換性: ローカルサーバーを介してOpenAI SDKのドロップイン・リプレイスメントとして機能。
  • MCP ツールサポート: 拡張機能のための Model Context Protocol サーバーとの統合。
  • ファイル統合: プロンプトへのPDF、画像、テキストファイルの添付をネイティブにサポート。
  • JSON/Schema ガイド付き生成: スクリプト作成のための、スキーマ検証済みのJSON出力を保証。
  • パイプ対応: UNIX哲学に基づいて設計されており、ストリーミングおよびパイプによる入出力に対応。