LivebookノートブックをHugging Face Spacesのアプリとしてデプロイする

Hugging FaceはLivebookと統合し、ユーザーがインタラクティブなElixirノートブックをHugging Face Spaces上の機能的なアプリケーションとしてデプロイできるようにしました。この統合により、Elixirコミュニティは機械学習（ML）アプリケーションを構築、実験、共有できるようになりました。たとえば、Whisperによって駆動される音声からテキストへのチャットアプリなど、数分で作成できます。

Livebook Application Deployment on Hugging Face Spaces

ユーザーは今、LivebookノートブックをHugging Face Spacesのアプリとしてデプロイでき、インタラクティブなコード環境を共有可能なアプリケーションに変換します。この機能の主要な例は、Whisper MLモデルを使用して音声メッセージを自動的にテキストに変換するWhisperベースのチャットアプリです。

このデプロイメントワークフローは、Elixir MLエコシステムのいくつかの重要な技術的機能を強調しています：

  • Hugging Face Model Integration: Hugging Faceプラットフォーム上でホストされているモデルの直接使用。
  • Multiplayer ML Apps: コラボラティブでマルチユーザーな機械学習アプリケーションを作成する能力。
  • Concurrent Model Serving: MLモデルを同時に提供する能力。クラスター全体にモデル提供を分散するオプションもあり。

The Elixir and Hugging Face Ecosystem

Elixirの機械学習ランドスケープは、数値計算とデータサイエンスツールを提供するために、Hugging Faceのオープンソースプロジェクトとプラットフォームインフラストラクチャに大きく依存しています。

Bumblebee

Bumblebeeは、Hugging Faceから事前学習済みニューラルネットワークモデルをElixirコミュニティに提供するライブラリです。Hugging Face Transformersにインスパイアされ、BumblebeeはHugging Face Hubを利用してモデルパラメータをダウンロードします。

Tokenizers

tokenizersライブラリは、Hugging Face TokenizersライブラリのElixirバインディングとして機能し、MLモデルに不可欠なテキスト処理機能を提供します。

Livebook Integration

Livebookは、Elixirでインタラクティブなコードノートブックを書くためのオープンソースツールです。アプリのデプロイに加えて、LivebookはSpace Dockerテンプレートを使用してHugging Face Spaces内で直接実行でき、ユーザーは無料でノートブックを実行および実験できます。

Getting Started with Livebook on Hugging Face

MLアプリの構築とデプロイを開始するには、ユーザーは提供されたDockerテンプレートを介してHugging Face SpacesにLivebookをインストールし、公式のビデオチュートリアルに従ってノートブックからデプロイ済みアプリケーションへ移行できます。

Sources