huggingface/swift-transformers
Swift Package to implement a transformers-like API in Swift
解決的問題
它提供了一套工具，幫助開發者將語言模型集成到 Swift 應用程式中，為 Swift 生態系統帶來了類似於 Python transformers 函式庫的熟悉 API。
工作原理
該函式庫提供了幾個專門的模組：
- Tokenizers：處理文本分詞和對話範本，包括對工具呼叫（tool calling）格式的原生支援。
- Hub：支援從 Hugging Face Hub 直接快速、可靠地下載模型和設定檔，並提供進度報告和連線處理。
- Models & Generation：提供專門用於在 CoreML 中進行裝置端執行的語言模型處理工具。
適用對象
希望在應用程式中實現裝置端機器學習和語言模型功能，而無需在 Swift 中重寫 Hugging Face 生態系統核心邏輯的 Swift 開發者。
亮點
- 慣用的 Swift API：設計上讓 Python
transformers函式庫的使用者感到熟悉。 - 更智慧的下載：包含用於可靠獲取模型的
Hub模組以及用於並行下載的可選Xet特性。 - CoreML 集成：內建支援載入已編譯的 CoreML 模型和離線分詞器，以避免網路請求。
- 工具呼叫支援：為涉及外部工具的複雜模型互動提供原生格式化支援。
相關
- Dispatch
- Dispatch
- Dispatch
- 專案
- 專案