Arthur-Ficial/apfel

The free AI already on your Mac. CLI tool, OpenAI-compatible server, and interactive chat — all on-device via Apple Intelligence. No API keys, no cloud, no downloads.

解决的问题

apfel 提供了一种通过 Apple FoundationModels 访问 Apple Silicon Mac 内置的大型语言模型 (LLM) 的方法。它将此本地模型转换为可用的 UNIX 工具和本地 OpenAI 兼容服务器，使用户在保持所有数据 100% 保留在本地的同时，避免使用 API 密钥、云端依赖和相关费用。

工作原理

该项目充当 FoundationModels.SystemLanguageModel 的桥梁。它提供三个主要接口：

  • UNIX Tool： 一个命令行界面 (CLI)，支持管道输入、附加文件（包括通过本地 OCR/提取获取的 PDF 和图像）以及生成 JSON 或仅代码的输出。
  • OpenAI 兼容服务器： 一个本地 HTTP 服务器 (http://localhost:11434/v1)，允许现有的 OpenAI SDK 和工具使用本地 Apple 模型作为后端。
  • 交互式 REPL： 用于测试提示词和工具的聊天模式 (apfel --chat)。

它还支持 Model Context Protocol (MCP)，允许 LLM 发现并调用外部工具（本地或远程）。

适用对象

想要在本地运行 AI、将 AI 集成到 Shell 脚本中，或希望用免费、私密的本地替代方案取代云端 LLM API 的 Apple Silicon (M1+) 搭载 macOS 26 Tahoe+ 的开发者和高级用户。

亮点

  • 100% 本地运行： 无需云端，无需 API 密钥，实现完全隐私。
  • OpenAI API 兼容性： 通过本地服务器实现 OpenAI SDK 的即插即用替换。
  • MCP 工具支持： 与 Model Context Protocol 服务器集成以扩展功能。
  • 文件集成： 原生支持在提示词中附加 PDF、图像和文本文件。
  • JSON/Schema 引导生成： 为脚本编写提供保证符合 Schema 校验的 JSON 输出。
  • 支持管道操作： 遵循 UNIX 哲学设计，支持流式传输和管道输入/输出。