Hugging Face 与 Cloudflare FastRTC 集成

Hugging Face 与 Cloudflare 合作，将 Cloudflare 的全球 WebRTC 基础设施集成到 FastRTC 中，使 AI 开发者能够在无需管理自有 TURN 服务器的情况下部署低延迟的音视频流。此集成通过使用 Hugging Face 令牌提供企业级连接，消除了实时多模态 AI 应用部署中的一大障碍。

通过 Cloudflare TURN 服务器简化 WebRTC 部署

FastRTC 抽象了 WebRTC 的复杂性，使得仅用最少的 Python 代码即可创建 AI 驱动的音视频流。然而，WebRTC 应用通常需要专用的 TURN（Traversal Using Relays around NAT）服务器，以确保在各种网络环境下的可靠连接。

通过此次合作，FastRTC 开发者可以访问 Cloudflare 全球范围的 TURN 服务器网络，覆盖全球超过 335 个地点。这消除了开发者自行构建和维护 TURN 基础设施的需求，使其能够将注意力从网络管理转向核心应用逻辑。

访问与定价模式

开发者可使用有效的 Hugging Face 访问令牌访问 Cloudflare TURN 网络。合作提供的免费层每月提供 10GB 数据流量，无需信用卡。对于需要更高容量的应用，开发者可以切换到自己的 Cloudflare 账户。

实时 AI 的目标使用场景

此基础设施集成专为支持需要可靠、低延迟流媒体的多模态 AI 应用而设计，包括：

  • Voice Assistants: 需要稳定、低延迟音频流以实现自然对话的应用。
  • Real-Time Video Analysis: 实时处理现场摄像头视频流的应用。
  • Multimodal AI: 实时结合音频、视频和文本输入输出的系统。

技术实现与要求

Cloudflare 集成在 FastRTC 版本 0.0.20 及以上可用。要实现该集成，开发者需要具备读取权限的 Hugging Face 令牌以及 fastrtc[vad] 包。

实现示例

开发者可以在 Stream 配置中使用 get_cloudflare_turn_credentials 函数来配置流使用 Cloudflare TURN 网络：

from fastrtc import ReplyOnPause, Stream, get_cloudflare_turn_credentials
import os

os.environ["HF_TOKEN"] = "<your-hf-token>"

def echo(audio):
    yield audio

stream = Stream(ReplyOnPause(echo),
                rtc_config=get_cloudflare_turn_credentials)
stream.ui.launch()

生态系统资源

欲了解更多实现细节，开发者可参考 FastRTC Cookbook 或 Hugging Face 上专门的 Cloudflare 合作合集。

Sources