Arthur-Ficial/apfel
The free AI already on your Mac. CLI tool, OpenAI-compatible server, and interactive chat — all on-device via Apple Intelligence. No API keys, no cloud, no downloads.
What it solves
apfel 提供了一種在 Apple Silicon Macs 上以命令列工具和本地伺服器形式存取 Apple 內建 FoundationModels LLM 的方式。它透過將所有推論過程 100% 留在裝置端，消除了對雲端 API、API 金鑰以及網路連線的的需求。
How it works
該專案透過兩個主要介面提供 SystemLanguageModel：
- UNIX Tool: 一個支援管道 (piping) 輸入、附加檔案 (包含透過裝置端 OCR/提取功能處理的 PDF 與圖片) 以及生成結構化 JSON 輸出的 CLI。
- OpenAI-compatible Server: 一個本地 HTTP 伺服器 (
http://localhost:11434/v1)，讓現有的 OpenAI SDKs 與工具可以將裝置端模型作為後端使用。
它也支援 Model Context Protocol (MCP) 以附加外部工具，讓模型可以透過本地或遠端 MCP 伺服器執行如計算等動作。
Who it’s for
針對使用 Apple Silicon (M1+) 且運行 macOS 26 Tahoe+ 的開發者與進階用戶，希望將私密、本地的 AI 集成到其 Shell 腳本、工作流程或現有的 AI 應用程式中。
Highlights
- 100% On-Device: 推論過程不需要雲端、API 金鑰或網路。
- OpenAI Compatibility: 可直接替換 OpenAI 的 chat completions API。
- MCP Tool Support: 與 Model Context Protocol 伺服器整合，以擴展功能。
- File Awareness: 原生支援附加 PDF 與圖片，並具備裝置端文字提取功能。
- Guided Generation: 透過
json_schema支援保證符合架構的 JSON 輸出。 - Shell-Friendly: 包含多種內建示範 (例如用於英文轉 Shell 命令的
cmd) 以及支援管道安全 (pipe-safe) 的輸出模式。"},
相關
- 專案
- 專案
- 專案
- 專案
- 專案