Arthur-Ficial/apfel

The free AI already on your Mac. CLI tool, OpenAI-compatible server, and interactive chat — all on-device via Apple Intelligence. No API keys, no cloud, no downloads.

해결하는 문제

apfel은 Apple Silicon Mac에 탑재된 Apple FoundationModels를 통해 내장된 대규모 언어 모델(LLM)에 액세스하는 방법을 제공합니다. 이 온디바이스 모델을 사용 가능한 UNIX 도구 및 로컬 OpenAI 호환 서버로 변환하여, 모든 데이터를 100% 온디바이스로 유지하면서 API 키, 클라우드 의존성 및 비용을 피할 수 있게 해줍니다.

작동 원리

이 프로젝트는 FoundationModels.SystemLanguageModel에 대한 브리지 역할을 합니다. 다음과 같은 세 가지 주요 인터페이스를 제공합니다:

  • UNIX Tool: 입력 파이핑, 파일 첨부(온디바이스 OCR/추출을 통한 PDF 및 이미지 포함), JSON 또는 코드 전용 출력 생성을 지원하는 명령줄 인터페이스(CLI).
  • OpenAI 호환 서버: 기존 OpenAI SDK 및 도구가 온디바이스 Apple 모델을 백엔드로 사용할 수 있도록 하는 로컬 HTTP 서버 (http://localhost:11434/v1).
  • 대화형 REPL: 프롬프트 및 도구 테스트를 위한 채팅 모드 (apfel --chat).

또한 LLM이 외부 도구(로컬 또는 원격)를 발견하고 호출할 수 있도록 Model Context Protocol (MCP)을 지원합니다.

대상 사용자

AI를 로컬에서 실행하거나, 셸 스크립트에 AI를 통합하거나, 클라우드 기반 LLM API를 무료의 프라이빗한 온디바이스 대안으로 교체하고자 하는 Apple Silicon (M1+) 기반 macOS 26 Tahoe 이상의 개발자 및 파워 유저.

주요 특징

  • 100% 온디바이스: 클라우드 없음, API 키 없음, 완전한 개인정보 보호.
  • OpenAI API 호환성: 로컬 서버를 통해 OpenAI SDK를 즉시 대체 가능.
  • MCP 도구 지원: 확장된 기능을 위한 Model Context Protocol 서버와의 통합.
  • 파일 통합: 프롬프트에 PDF, 이미지 및 텍스트 파일을 첨부하는 네이티브 지원.
  • JSON/Schema 가이드 생성: 스크립팅을 위한 스키마 유효성이 보장된 JSON 출력.
  • 파이프 친화적: 스트리밍 및 파이프 입출력을 지원하는 UNIX 철학 기반 설계.