huggingface/swift-transformers
Swift Package to implement a transformers-like API in Swift
해결하는 문제
개발자가 언어 모델을 Swift 애플리케이션에 통합하는 것을 돕는 유틸리티 세트를 제공하여, Python의 transformers 라이브러리와 유사한 익숙한 API를 Swift 생태계에 가져옵니다.
작동 방식
이 라이브러리는 다음과 같은 전문화된 모듈을 제공합니다:
- Tokenizers: 텍스트 토큰화 및 채팅 템플릿을 처리하며, 도구 호출(tool calling) 형식을 위한 네이티브 지원을 포함합니다.
- Hub: 진행 상황 보고 및 연결 처리를 통해 Hugging Face Hub에서 모델 및 설정 파일을 직접 빠르고 안정적으로 다운로드할 수 있도록 합니다.
- Models & Generation: 온디바이스 실행을 위해 CoreML 내에서 언어 모델을 다루는 데 필요한 유틸리티를 제공합니다.
대상
Hugging Face 생태계의 핵심 로직을 Swift로 다시 작성할 필요 없이, 앱에 온디바이스 머신러닝 및 언어 모델 기능을 구현하고자 하는 Swift 개발자.
주요 특징
- 관용적인 Swift API: Python
transformers라이브러리 사용자에게 익숙한 느낌을 주도록 설계되었습니다. - 더 스마트한 다운로드: 안정적인 모델 가져오기를 위한
Hub모듈과 병렬 다운로드를 위한 선택적Xet트레이트를 포함합니다. - CoreML 통합: 네트워크 요청을 피하기 위해 컴파일된 CoreML 모델 및 오프라인 토크나이저를 로드하는 내장 지원을 제공합니다。
- 도구 호출 지원: 외부 도구가 포함된 복잡한 모델 상호작용을 위한 네이티브 포맷팅을 제공합니다.
관련
- Dispatch
- Dispatch
- Dispatch
- 프로젝트
- 프로젝트