Gradio 2.0 を使用した Hugging Face モデルの使用と混合

Gradio 2.0 を使用すると、開発者はわずか一行のコードで Hugging Face モデルのグラフィカルユーザーインターフェース (GUI) を作成できます。この統合により、非プログラマーや学際的なチームに対してモデルのデモを行い、バイアスや失敗点を特定するプロセスが簡素化されます。

単一行でのモデル展開

Gradio 2.0 は、自然言語処理、画像分類、音声処理のための 10,000 件以上のモデルを含む Hugging Face Model Hub から、ほぼすべてのモデルを GUI に直接即座にロードすることを提供します。

開発者には、これらのモデルを実行するための 2 つの主要なオプションがあります：

Hosted Inference API: デフォルトでは、Gradio は Hugging Face のホスト型 Inference API を使用します。これは、公開キー経由、または API キーなしでアクセス可能です。
Local Execution: transformers ライブラリをインストール (pip install transformers) することで、ユーザーは自身のハードウェア上でモデルの計算をローカルで実行できます。

ユーザーは、Gradio の Interface クラスのデフォルトパラメータをオーバーライドすることで、モデルのデモをカスタマイズできます。これにより、モデルがどのように提示され、入力データとどのように対話するかについて、よりきめ細かな制御が可能になります。

Gradio 2.0 は、モデルを高度なアプリケーションを作成するために構成可能なモジュール式コンポーネントとして扱います。これは、主に 2 つの構成パターンを通じて実現されます：

直接的な比較を容易にするために、モデルを並列にロードできます。例えば、開発者は、特定のユースケースにおいてどのモデルが最も優れたパフォーマンスを発揮するかを判断するために、4 つの異なるテキスト生成モデルを同時にロードできます。

複雑なパイプラインを構築するために、モデルを直列に配置できます。これにより、、フィンランド語のニュース記事を翻訳し、その翻訳されたテキストを要約するシステムのような、多段階のアプリケーションの作成が可能になります。これは、わずか 3 行のコードで実現可能です。

開発者は、これらのパターンをさらに組み合わせることで、直列に配置された複数のモデルを、並列に配置されたモデル同士と比較させることもできます。