schibsted/WAAS

Whisper as a Service (GUI and API with queuing for OpenAI Whisper)

해결하는 문제

WAAS는 OpenAI Whisper를 오디오 및 비디오 전사에 배포하고 사용할 수 있는 사용자 친화적인 방법을 제공합니다. 그래픽 사용자 인터페이스(GUI), REST API, 비동기 작업 큐를 추가하여 원시 Whisper 모델을 완전한 서비스로 변환하며, 사용자가 명령줄이나 복잡한 스크립트를 통해 모델과 상호 작용할 필요를 없애줍니다.

작동 방식

이 시스템은 요청을 처리하는 Flask 기반 API, 전사 작업을 관리하는 Redis 기반 작업 큐(RQ 사용), Whisper를 사용하여 오디오 파일을 처리하는 워커 등 세 가지 주요 구성 요소로 이루어져 있습니다. 사용자는 GUI(Jojo라고 함) 또는 API를 통해 파일을 제출하고 언어 및 모델 크기와 같은 매개변수를 지정할 수 있습니다. 처리가 완료되면 시스템은 이메일이나 webhook을 통해 사용자에게 알리고 다양한 형식(SRT, VTT, JSON 또는 일반 텍스트)으로 결과 다운로드 링크를 제공합니다.

대상 사용자

오디오나 비디오 파일을 대규모로 전사해야 하거나, 기본 ML 인프라를 수동으로 관리하지 않고도 다른 애플리케이션에 전사 기능을 통합하려는 사용자를 위해 설계되었습니다.

주요 특징

  • 통합 편집기: 브라우저 기반 편집기(Jojo)가 포함되어 있어 오디오 세그먼트를 듣고 로컬에서 전사 오류를 수정할 수 있습니다.
  • 비동기 처리: 큐 시스템을 사용하여 API를 차단하지 않고 여러 전사 작업을 처리합니다.
  • 다양한 출력 형식: 전사 결과를 SRT, VTT, JSON 및 일반 텍스트로 내보내는 기능을 지원합니다.
  • 유연한 알림: 이메일 콜백 또는 보안 webhook을 통해 작업 완료를 사용자에게 알립니다.
  • GPU 가속: Docker를 통한 NVIDIA CUDA를 지원하여 더 빠른 전사가 가능합니다.

관련

  • 프로젝트
  • 프로젝트
  • 프로젝트
  • 프로젝트