huggingface/swift-transformers

解决的问题

swift-transformers 为 Swift 开发者提供了一种原生且符合惯用法的途径，将 Hugging Face 语言模型集成到他们的应用程序中。它弥合了流行的 Python transformers 生态系统与 Swift/Apple 生态系统之间的鸿沟，简化了分词、模型下载以及与设备端模型交互等任务。

工作原理

该库提供了一组 Swift 模块，映射了 Python transformers 库的功能。它包括用于处理文本的 Tokenizers 模块，用于从 Hugging Face Hub 下载模型并内置进度跟踪和错误处理的 Hub 模块，以及提供通过 Apple CoreML 框架运行模型工具的 Models/Generation 模块。它支持 async/await 等现代 Swift 特性，并可通过 Swift Package Manager 集成到项目中。

适用人群

本项目面向希望使用 Hugging Face 模型构建设备端 AI 应用程序的 iOS、macOS 和 visionOS 开发者，特别是那些希望利用 CoreML 提升性能的开发者。

亮点

• 为熟悉 Python transformers 库的用户提供熟悉的 API。
• 原生支持分词和聊天模板，包括工具调用格式。
• 从 Hugging Face Hub 下载模型时具有强大的进度报告功能，并可通过 Xet 进行可选的高性能传输。
• 用于在本地加载和运行已编译 CoreML 模型的实用工具。
• 兼容 Swift Package Manager，便于项目集成。