将 Livebook 笔记本部署为 Hugging Face Spaces 的应用

Hugging Face 已与 Livebook 集成,使用户能够在 Hugging Face Spaces 上将交互式 Elixir 笔记本部署为功能应用。此集成使 Elixir 社区能够在几分钟内构建、实验和共享机器学习(ML)应用——例如由 Whisper 驱动的音频转文本聊天应用。

在 Hugging Face Spaces 上部署 Livebook 应用

用户现在可以将 Livebook 笔记本作为应用部署到 Hugging Face Spaces,将交互式代码环境转变为可共享的应用。此功能的一个主要示例是基于 Whisper 的聊天应用,其中音频消息会自动使用 Whisper ML 模型转换为文本。

此部署工作流程突显了 Elixir ML 生态系统的几项关键技术能力:

  • Hugging Face 模型集成:直接使用托管在 Hugging Face 平台上的模型。
  • 多人 ML 应用:创建协作式、多用户机器学习应用的能力。
  • 并发模型服务:同时服务 ML 模型的能力,并可选择将模型服务分布到集群中。

Elixir 与 Hugging Face 生态系统

Elixir 机器学习领域在很大程度上依赖于 Hugging Face 的开源项目和平台基础设施,以提供数值计算和数据科学工具。

Bumblebee

Bumblebee 是一个库,它将来自 Hugging Face 的预训练神经网络模型带给 Elixir 社区。受 Hugging Face Transformers 的启发,Bumblebee 使用 Hugging Face Hub 下载模型参数。

Tokenizers

tokenizers 库作为 Hugging Face Tokenizers 库的 Elixir 绑定,为 ML 模型提供了基本的文本处理能力。

Livebook 集成

Livebook 是一个开源工具,用于在 Elixir 中编写交互式代码笔记本。除了部署应用之外,Livebook 还可以通过 Space Docker 模板直接在 Hugging Face Spaces 中运行,使用户能够免费运行和实验笔记本。

在 Hugging Face 上开始使用 Livebook

要开始构建和部署 ML 应用,用户可以通过提供的 Docker 模板在 Hugging Face Spaces 上安装 Livebook,并按照官方视频教程从笔记本过渡到已部署的应用。

Sources