Hugging Face Spaces 与 Gradio 集成
Hugging Face 已将 Gradio 集成到 Hugging Face Spaces 中,为开发者提供了一种流线化的方式来托管和展示机器学习模型演示。这种集成允许用户使用极少的代码,利用 Inference API 实现无缝部署,从而为托管在 Hugging Face Hub 上的模型创建交互式界面。
通过 Hub 集成实现无缝模型演示
开发者可以通过定义一个 Gradio Interface 来为 Hugging Face Hub 中的模型创建交互式演示,该 Interface 需要指定模型的 repository ID、标题、描述和示例输入。一旦定义了 Interface,调用 .launch() 即可部署演示。
为了向社区托管这些演示,用户可以在 Hugging Face Spaces 中创建一个 repository,并选择 Gradio 作为 SDK。通过添加包含必要代码的 app.py 文件,应用程序可以在几秒钟内投入运行。此过程利用了 Inference API,它支持包括 Transformers、spaCy、SpeechBrain 和 Asteroid 在内的各种框架,并兼容多种模型类型,例如图像转文本、语音转文本和文本转转语音。
托管自定义模型检查点
对于 Inference API 不支持的模型,Hugging Face Spaces 仍然允许托管演示。用户可以将特定的模型推理逻辑封装在 Gradio Interface 中并直接部署到 Spaces,从而确保无论是否支持 API,都可以提供自定义模型检查点的服务。
使用 Gradio Series 进行模型组合
可以使用 Gradio Series 将多个模型组合成单个流水线。这允许一个模型的输出作为下一个模型的输入。例如,可以通过按顺序链接一个法语到英语的翻译模型、一个 GPT-2 故事生成器和一个英语到法语的翻译模型,来创建一个法语故事生成器。
Spaces 中的部署工作流
将演示部署到 Hugging Face Spaces 是通过一个简单的上传过程来管理的。在创建新的 Space 后,用户可以使用拖放界面或通过 Git 上传他们的演示文件,使得与社区分享 ML 项目的过程变得简单且高效。
Sources
相关
- Dispatch
- Dispatch
- Dispatch
- Dispatch
- Dispatch