apple/coreai-models

해결하는 문제

이 프로젝트는 Apple silicon (macOS 및 iOS)에서 오픈소스 AI 모델을 배포하기 위한 포괄적인 툴킷을 제공합니다. Hugging Face와 같은 소스에서 인기 있는 모델을 Apple의 Core AI 프레임워크와 호환되는 형식으로 변환하는 과정을 간소화하며, 애플리케이션에 통합하기 위한 필요한 런타임 유틸리티도 제공합니다.

작동 방식

이 툴킷은 네 가지 주요 구성 요소로 나뉩니다:

• 모델 내보내기: PyTorch 모델을 독립형 .aimodel 파일로 변환하는 레시피를 제공합니다.
• 파이썬 프리미티브: 개발자가 PyTorch로 맞춤형 Core AI 모델을 작성할 수 있도록 도와주는 빌딩 블록을 제공합니다.
• 런타임 유틸리티: iOS 및 macOS 앱 내에서 이러한 내보낸 모델을 통합하고 실행하는 데 도움을 주는 Swift 패키지입니다.
• 에이전트 기능: Claude Code, Codex CLI, Gemini CLI와 같은 코드 에이전트를 위한 플러그인으로, Apple 플랫폼용 모델의 배포, 작성, 압축에 대한 전문적인 안내를 제공합니다.

대상 사용자

Apple 플랫폼용 온디바이스 AI 애플리케이션을 개발하고 있으며, 기존 오픈소스 모델을 변환하거나 Apple silicon에 최적화된 맞춤형 모델을 생성해야 하는 개발자들입니다.

주요 특징

• 선별된 모델 카탈로그: 특정 내보내기 레시피가 있는 지원 모델의 레지스트리 포함.
• 온디바이스 실행: macOS 및 iOS 27.0+ 전용으로 설계됨.
• 모델 압축: coreai-opt를 통해 가중치 압축, 양자화, 팔레트화를 탐색할 수 있는 도구 제공.
• 코드 에이전트 통합: AI 코드 보조 도구가 배포 워크플로를 자동화하는 데 도움을 주는 전용 플러그인.