Hugging Face Spaces 和 Gradio 整合
Hugging Face 已將 Gradio 整合到 Hugging Face Spaces 中,為開發者提供了一種簡化的方式來託管和展示機器學習模型示範。此整合使得使用者能夠以最少的程式碼,利用 Inference API 來建立針對 Hugging Face Hub 上託管模型的互動介面,實現無縫部署。
透過 Hub 整合實現無縫模型示範
開發者可以透過定義一個指定模型倉庫 ID、標題、描述與範例輸入的 Gradio Interface,來為 Hugging Face Hub 中的模型建立互動示範。定義好 Interface 後,呼叫 .launch() 即可部署示範。
為了讓社區能夠託管這些示範,使用者可以在 Hugging Face Spaces 中建立一個倉庫,並選擇 Gradio 作為 SDK。只要加入一個包含必要程式碼的 app.py 檔案,應用程式就能在數秒內變為可運作狀態。此流程利用了 Inference API,該 API 支援多種框架,包括 Transformers、spaCy、SpeechBrain 與 Asteroid,並且與多種模型類型相容,例如 image-to-text、speech-to-text 與 text-to-speech。
託管自訂模型檢查點
對於不被 Inference API 支援的模型,Hugging Face Spaces 仍然允許託管示範。使用者可以將他們特定的模型推論邏輯包裝在一個 Gradio Interface 中,並直接部署到 Spaces,以確保自訂模型檢查點能夠在不依賴 API 支援的情況下被提供服務。
使用 Gradio Series 進行模型組合
多個模型可以透過 Gradio Series 組合成單一管線。這使得一個模型的輸出可以作為下一個模型的輸入。例如,可以透過將一個法文到英文的翻譯模型、一個 GPT-2 故事生成模型,以及一個英文到法文的翻譯模型串連起來,來建立一個法文故事生成器。
在 Spaces 中的部署工作流程
將示範部署到 Hugging Face Spaces 透過一個簡單的上傳流程來管理。建立新的 Space 後,使用者可以透過拖放介面或使用 Git 上傳他們的示範檔案,這使得與社區分享機器學習專案變得既容易又高效。
Sources
相關
- Dispatch
- Dispatch
- Dispatch
- Dispatch
- Dispatch