john-rocky/coreai-model-zoo
Community model zoo for Apple Core AI (iOS/macOS 27): 49 models — LLM, VLM, OCR, ASR, TTS, image/video/music gen, forecasting — converted, verified on real devices, downloadable from Hugging Face, and runnable in one line of Swift via CoreAIKit. Plus conversion recipes, on-device benchmarks, custom Metal kernels, and a knowledge base.
해결하는 문제
Apple 기기(iOS 및 macOS)에서 대규모 언어 모델 및 기타 AI 모델을 실행하려면 복잡한 변환 프로세스가 필요한 경우가 많습니다. 이 저장소는 Apple의 Core AI용으로 이미 변환된 모델의 중앙 집중식 카탈로그와 모델을 생성하는 데 사용된 정확한 레시피를 제공하여, 개발자가 고성능 온디바이스 AI를 애플리케이션에 쉽게 통합할 수 있도록 합니다.
작동 방식
이 프로젝트는 기기 검증이 완료된 다운로드 가능한 .aimodel 파일을 제공합니다. 각 모델에는 사용된 정확한 변환 프로세스를 기록한 recipe.toml 파일이 포함되어 있습니다. 사용자는 다음과 같은 작업을 수행할 수 있습니다:
- CoreAIKit Swift 패키지를 사용하여 모델을 직접 다운로드 및 실행합니다.
- 제공된 Python 변환 스크립트 (
zoo_convert.py)를 사용하여 재현성을 보장하기 위해 모델을 재구축합니다. zoo_verify.py를 사용하여 소스 모델과 번들을 대조하여 무결성을 검증합니다.
대상 사용자
- 앱에 오프라인 온디바이스 AI(텍스트, 비전, 오디오 또는 로보틱스)를 통합하려는 iOS/macOS 개발자.
- 특정 모델 아키텍처(MoE 또는 확산 모델 등)가 Apple 하드웨어로 포팅되었을 때 어떻게 작동하는지 확인하려는 AI 연구자.
- Apple의 Core AI 생태계를 위한 신뢰할 수 있는 변환 레시피가 필요한 머신러닝 엔지니어.
주요 특징
- 다양한 모델 지원: LLM, 시각-언어 모델, 음성-텍스트, 텍스트-음성, 그리고 로보틱스/액션 모델까지 포함합니다.
- 재현 가능한 변환: 모든 모델에는 동일한 결과를 생성하기 위해 다시 실행할 수 있는 레시피가 포함되어 있습니다.
- 온디바이스 중심: iPhone 및 Mac 하드웨어에서 완전히 오프라인으로 실행되도록 최적화되었습니다.
- 광범위한 카탈로그: Qwen, Gemma, Llama 및 BitCPM (1.58-bit ternary LLM)과 같은 특화된 모델을 포함한 다양한 아키텍처를 제공합니다.