huggingface/swift-transformers

해결하는 문제

swift-transformers는 Swift 개발자가 Hugging Face 언어 모델을 애플리케이션에 통합할 수 있는 네이티브하고 관용적인 방법을 제공합니다. 이 라이브러리는 널리 사용되는 Python 기반 transformers 생태계와 Swift/Apple 생태계 사이의 간극을 메워주며, 토큰화, 모델 다운로드, 온디바이스 모델과의 상호작용과 같은 작업을 간소화합니다.

작동 방식

이 라이브러리는 Python transformers 라이브러리의 기능을 반영하는 일련의 Swift 모듈을 제공합니다. 텍스트 처리를 위한 Tokenizers 모듈, 진행 상황 추적 및 오류 처리가 내장된 Hugging Face Hub 모델 다운로드용 Hub 모듈, 그리고 Apple의 CoreML 프레임워크를 통해 모델을 실행하는 유틸리티를 제공하는 Models/Generation 모듈이 포함되어 있습니다. async/await와 같은 최신 Swift 기능을 지원하며, Swift Package Manager를 통해 프로젝트에 통합할 수 있습니다.

대상 사용자

이 프로젝트는 Hugging Face 모델을 사용하여 온디바이스 AI 애플리케이션을 구축하려는 iOS, macOS 및 visionOS 개발자, 특히 성능을 위해 CoreML을 활용하려는 개발자를 위한 것입니다.

주요 특징

• Python transformers 라이브러리 경험이 있는 사용자에게 익숙한 API 제공.
• 도구 호출 형식을 포함한 토큰화 및 채팅 템플릿에 대한 네이티브 지원.
• 진행 상황 보고 기능이 포함된 Hugging Face Hub에서의 강력한 모델 다운로드 및 Xet을 통한 선택적 고성능 전송 지원.
• 컴파일된 CoreML 모델을 로컬에서 로드하고 실행하기 위한 유틸리티.
• Swift Package Manager와의 호환성으로 간편한 프로젝트 통합.