apple/coreai-models

Model export recipes, Python primitives, and Swift runtime utilities for on-device AI

해결 과제

이 프로젝트는 PyTorch에서 AI 모델을 학습시키는 것과 Apple 실리콘 기기에서 효율적으로 배포하는 것 사이의 간극을 메우는 데 필요한 도구를 제공합니다. Core AI 프레임워크를 사용하여 macOS 및 iOS에서 모델을 변환, 최적화 및 실행하는 과정을 간소화합니다.

작동 방식

다음 세 가지 부분으로 구성된 생태계를 제공합니다:

  1. Export Recipes: 인기 있는 오픈 소스 모델(Hugging Face 모델 등)을 .aimodel 형식으로 변환하는 스크립트.
  2. Python Primitives: 개발자가 Apple 하드웨어와 호환되는 커스텀 모델을 PyTorch로 작성할 수 있도록 돕는 빌딩 블록.
  3. Swift Runtime: 개발자가 내보낸 모델을 Swift 기반 애플리케이션에 직접 통합할 수 있게 해주는 패키지.

또한, 모델 작성, 압축 및 배포 워크플로우에 대한 전문가 가이드를 제공하는 코딩 에이전트(Claude Code 또는 Codex 등)용 플러그인인 "Skills"가 포함되어 있습니다.

대상 사용자

PyTorch 모델을 사용하여 Apple 플랫폼용 고성능 온디바이스 AI 애플리케이션을 구축하려는 개발자 및 머신러닝 엔지니어를 위한 도구입니다.

주요 특징

  • Model Catalog: 다양한 오픈 소스 모델에 대한 즉시 사용 가능한 내보내기 레시피 포함.
  • Agentic Skills: 모델 작성 및 압축 작업을 자동화하는 데 도움을 주는 코딩 에이전트용 플러그인 제공.
  • Native Integration: macOS 및 iOS에서 원활한 런타임 실행을 위한 Swift 패키지 포함.
  • Optimization Tools: 모델이 기기에서 효율적으로 실행되도록 가중치 압축, 양자화 및 팔레트화를 탐색하기 위한 유틸리티 제공.

관련

  • 프로젝트
  • 프로젝트
  • Dispatch
  • 프로젝트
  • 프로젝트