使用與混合 Hugging Face 模型搭配 Gradio 2.0

Gradio 2.0 允許開發者使用單行程式碼為 Hugging Face 模型建立圖形使用者介面 (GUI)。這種整合簡化了向非程式設計師和跨領域團隊展示模型，以識別偏見與失效點的過程。

單行模型部署

Gradio 2.0 能夠將幾乎任何來自 Hugging Face Model Hub 的模型直接載入到 GUI 中——該 Hub 包含超過 10,000 個用於自然語言處理、圖像分類和音訊處理的模型。

開發者有兩個主要的執行選項：

• Hosted Inference API: 預設情況下，Gradio 使用 Hugging Face 的 hosted Inference API，可以透過公開金鑰或無需 API 金鑰進行存取。
• Local Execution: 透過安裝 transformers 函式庫 (pip install transformers)，使用者可以在自己的硬體上於本地執行模型運算。

自定義與介面控制

使用者可以透過覆寫 Gradio Interface 類別的預設參數來自定義其模型展示 (demo)。這讓開發者能對模型如何呈現以及如何與輸入數據互動進行更細粒度的控制。

組成與混合模型

Gradio 2.0 將模型視為模組化組件，可以透過組合來建立複雜的應用程式。這可以透過兩種主要的配置模式來實現：

平行組合

模型可以平行載入以方便直接比較。例如，開發者可以同時載入四個不同的文本生成模型，以確定哪一個模型在特定使用案例中表現最佳。

串行組合

模型可以串聯起來以建立複雜的流水線 (pipeline)。這使得建立多步驟應用程式成為可能，例如一個先翻譯芬蘭語新聞文章，然後再摘要翻譯後文本的系統，這僅需三行程式碼即可達成。

開發者可以進一步結合這些模式，透過將多個串聯模型與彼此平行的模型進行混合來達成。