Hugging Face Spaces と Gradio の統合
Hugging Face は Gradio を Hugging Face Spaces に統合し、開発者が機械学習モデルのデモをホストして公開するための合理的な方法を提供しています。この統合により、ユーザーは Inference API を活用してシームレスなデプロイを実現し、最小限のコードで Hugging Face Hub 上にホストされたモデルのインタラクティブなインターフェースを作成できます。
Hub 統合によるシームレスなモデルデモンストレーション
開発者は、モデルのリポジトリ ID、タイトル、説明、および例となる入力を指定する Gradio Interface を定義することで、Hugging Face Hub 内のモデルのインタラクティブなデモを作成できます。Interface が定義されると、.launch() を呼び出すことでデモがデプロイされます。
コミュニティ向けにこれらのデモをホストするには、ユーザーは Hugging Face Spaces でリポジトリを作成し、SDK として Gradio を選択します。app.py ファイルに必要なコードを追加することで、アプリケーションは数秒以内に稼働を開始します。このプロセスは、Transformers、spaCy、SpeechBrain、Asteroid といった様々なフレームワークをサポートする Inference API を活用しており、image-to-text、speech-to-text、text-to-speech といった複数のモデルタイプと互換性があります。
カスタムモデルチェックポイントのホスティング
Inference API がサポートしていないモデルについては、Hugging Face Spaces で引き続きデモのホスティングが可能です。ユーザーは特定のモデル推論ロジックを Gradio Interface 内にラップし、Spaces に直接デプロイすることで、API サポートの有無にかかわらず、カスタムモデルチェックポイントを公開することができます。
Gradio Series によるモデルの構成
Gradio Series を使用すると、複数のモデルを単一のパイプラインに組み合わせることができます。これにより、あるモデルの出力が次のモデルの入力として機能することが可能になります。例えば、フランス語のストーリー生成器は、フランス語から英語への翻訳モデル、GPT-2 ストーリー生成器、および英語からフランス語への翻訳モデルをシーケンスとして連鎖させることで作成できます。
Spaces におけるデプロイメントワークフロー
Hugging Face Spaces へのデモのデプロイは、シンプルなアップロードプロセスを通じて管理されます。新しい Space を作成した後、ユーザーはドラッグ&ドロップのインターフェースまたは Git を介してデモファイルをアップロードできます。これにより、ML プロジェクトをコミュニティと共有するプロセスが、アクセシブルで効率的なものになります。
Sources
関連
- Dispatch
- Dispatch
- Dispatch
- Dispatch
- Dispatch