Hugging Face와 Cloudflare FastRTC 통합

Hugging Face와 Cloudflare는 Cloudflare의 글로벌 WebRTC 인프라를 FastRTC에 통합하기 위해 파트너십을 맺었으며, 이를 통해 AI 개발자는 자체 TURN 서버를 관리하지 않고도 저지연 오디오 및 비디오 스트림을 배포할 수 있습니다. 이 통합은 Hugging Face 토큰을 통한 엔터프라이즈급 연결성을 제공함으로써 실시간 멀티모달 AI 애플리케이션의 중요한 배포 장벽을 제거합니다.

Cloudflare TURN 서버를 통한 간소화된 WebRTC 배포

FastRTC는 WebRTC의 복잡성을 추상화하여 최소한의 Python 코드로 AI 기반 오디오 및 비디오 스트림을 생성할 수 있게 합니다. 그러나 WebRTC 애플리케이션은 일반적으로 다양한 네트워크 환경에서 신뢰할 수 있는 연결을 보장하기 위해 특수한 TURN(Traversal Using Relays around NAT) 서버가 필요합니다.

이 파트너십을 통해 FastRTC 개발자는 전 세계 335개 이상의 위치에 걸친 Cloudflare의 글로벌 TURN 서버 네트워크에 접근할 수 있게 됩니다. 이는 개발자가 자체 TURN 인프라를 구축하고 유지할 필요성을 없애고, 네트워크 관리에서 핵심 애플리케이션 로직으로 초점을 전환하게 합니다.

접근 및 가격 모델

개발자는 유효한 Hugging Face Access Token을 사용하여 Cloudflare TURN 네트워크에 접근할 수 있습니다. 파트너십에는 신용카드 없이도 월 10GB 데이터 스트리밍을 제공하는 무료 티어가 포함됩니다. 더 높은 용량이 필요한 애플리케이션의 경우, 개발자는 자체 Cloudflare 계정으로 전환할 수 있습니다.

실시간 AI를 위한 목표 사용 사례

  • 음성 비서: 자연스러운 대화를 위한 안정적이고 저지연 오디오 스트리밍이 필요한 애플리케이션.
  • 실시간 비디오 분석: 실시간으로 카메라 피드를 처리하는 애플리케이션.
  • 멀티모달 AI: 오디오, 비디오, 텍스트 입력 및 출력을 실시간으로 결합하는 시스템.

기술 구현 및 요구 사항

Cloudflare 통합은 FastRTC 버전 0.0.20 이상에서 사용할 수 있습니다. 통합을 구현하려면 개발자는 읽기 권한이 있는 Hugging Face 토큰과 fastrtc[vad] 패키지가 필요합니다.

구현 예시

개발자는 Stream 구성 내에서 get_cloudflare_turn_credentials 함수를 사용하여 Cloudflare TURN 네트워크를 이용하도록 스트림을 설정할 수 있습니다:

from fastrtc import ReplyOnPause, Stream, get_cloudflare_turn_credentials
import os

os.environ["HF_TOKEN"] = "<your-hf-token>"

def echo(audio):
    yield audio

stream = Stream(ReplyOnPause(echo),
                rtc_config=get_cloudflare_turn_credentials)
stream.ui.launch()

생태계 리소스

추가 구현 세부 사항은 개발자가 FastRTC Cookbook 또는 Hugging Face에 있는 전용 Cloudflare 파트너십 컬렉션을 참고할 수 있습니다.

SUMMARY: Hugging Face와 Cloudflare는 FastRTC 개발자에게 Cloudflare의 글로벌 TURN 서버 네트워크에 대한 무료 접근을 제공하여 저지연 실시간 오디오 및 비디오 AI 애플리케이션 배포를 간소화했습니다.

TITLE: Hugging Face와 Cloudflare FastRTC 통합

Sources