Arthur-Ficial/apfel
The free AI already on your Mac. CLI tool, OpenAI-compatible server, and interactive chat — all on-device via Apple Intelligence. No API keys, no cloud, no downloads.
What it solves
apfel은 Apple Silicon Macs에서 내장된 Apple FoundationModels LLM에 명령줄 도구 및 로컬 서버로 액세스할 수 있는 방법을 제공합니다. 모든 추론을 100% 온디바이스로 유지함으로써 클라우드 API, API 키, 인터넷 연결의 필요성을 제거합니다.
How it works
이 프로젝트는 두 가지 주요 인터페이스를 통해 SystemLanguageModel을 노출합니다:
- UNIX Tool: 파이프 입력을 지원하고, 파일(온디바이스 OCR/추출을 통한 PDF 및 이미지 포함)을 첨부하며, 구조화된 JSON 출력을 생성하는 CLI.
- OpenAI-compatible Server: 기존 OpenAI SDKs 및 도구를 온디바이스 모델을 백엔드로 사용할 수 있도록 하는 로컬 HTTP 서버 (
http://localhost:11434/v1).
또한 외부 도구를 연결하기 위한 Model Context Protocol (MCP)을 지원하여, 모델이 로컬 또는 원격 MCP 서버를 통해 계산과 같은 동작을 수행할 수 있도록 합니다.
Who it’s for
Apple Silicon (M1+) 및 macOS 26 Tahoe+ 환경에서 프라이빗하고 로컬한 AI 통합을 쉘 스크립트, 워크플로우 또는 기존 AI 애플리케이션에 통합하고자 하는 개발자 및 파워 유저.
Highlights
- 100% On-Device: 추론을 위해 클라우드, API 키, 네트워크가 필요하지 않습니다.
- OpenAI Compatibility: OpenAI의 chat completions API를 즉시 대체할 수 있습니다.
- MCP Tool Support: Model Context Protocol 서버와의 통합으로 확장된 기능을 제공합니다.
- File Awareness: PDF 및 이미지 첨부와 온디바이스 텍스트 추출을 네이티브로 지원합니다.
- Guided Generation:
json_schema를 통해 스키마가 유효한 JSON 출력을 보정합니다. - Shell-Friendly: 다양한 내장 데모(예: 영어 명령어를 shell 명령어로 변환하는
cmd) 및 파이프 세이프(pipe-safe) 출력 모드를 포함합니다.
관련
- 프로젝트
- 프로젝트
- 프로젝트
- 프로젝트
- 프로젝트