將 Livebook 筆記本部署為應用程式至 Hugging Face Spaces

Hugging Face 已與 Livebook 整合，讓使用者能夠將互動式 Elixir 筆記本部署為 Hugging Face Spaces 上的功能應用程式。此整合使得 Elixir 社群能夠構建、實驗並分享機器學習 (ML) 應用程式——例如由 Whisper 驅動的語音轉文字聊天應用程式——僅需數分鐘。

在 Hugging Face Spaces 部署 Livebook 應用程式

使用者現在可以將 Livebook 筆記本部署為應用程式至 Hugging Face Spaces，將互動式程式碼環境轉變為可共享的應用程式。此功能的一個主要範例是以 Whisper 為基礎的聊天應用程式，其中音訊訊息會透過 Whisper ML 模型自動轉換為文字。

此部署工作流程凸顯了 Elixir ML 生態系統的幾項關鍵技術能力：

  • Hugging Face 模型整合：直接使用託管在 Hugging Face 平台上的模型。
  • 多人 ML 應用程式：創建協作式、多用戶機器學習應用程式的能力。
  • 併發模型服務：同時提供 ML 模型的服務能力，並可選擇將模型服務分散到叢集中。

Elixir 與 Hugging Face 生態系統

Elixir 的機器學習生態系統在很大程度上依賴 Hugging Face 的開源專案和平台基礎設施，以提供數值計算和數據科學工具。

Bumblebee

Bumblebee 是一個函式庫，負責將來自 Hugging Face 的預訓練神經網路模型帶到 Elixir 社區。受 Hugging Face Transformers 的啟發，Bumblebee 使用 Hugging Face Hub 下載模型參數。

Tokenizers

tokenizers 函式庫作為 Hugging Face Tokenizers library 的 Elixir 繫結，為 ML 模型提供基本的文字處理功能。

Livebook Integration

Livebook 是一個開源工具，用於在 Elixir 中撰寫互動式程式碼筆記本。除了部署應用程式之外，Livebook 可透過 Space Docker 模板直接在 Hugging Face Spaces 內執行，讓使用者能夠免費執行和實驗筆記本。

在 Hugging Face 上開始使用 Livebook

要開始構建和部署 ML 應用程式，使用者可以透過提供的 Docker 模板在 Hugging Face Spaces 上安裝 Livebook，並遵循官方影片教學，從筆記本過渡到已部署的應用程式。

Sources