pengzhendong/streaming-sensevoice

Pseudo Streaming SenseVoice with Hotwords

해결하는 문제

SenseVoice 모델을 사용하여 추론을 청크 단위로 처리함으로써 실시간 스트리밍 음성 받아쓰기를 가능하게 합니다. 이를 통해 전체 오디오 파일이 처리될 때까지 기다릴 필요 없이 텍스트 출력을 즉시 받을 수 있습니다.

작동 원리

이 프로젝트는 SenseVoice 모델을 감싸는 스트리밍 래퍼를 구현합니다. 오디오를 처리하는 세 가지 방법을 제공합니다: 미리 녹음된 wav 파일 처리, 마이크에서 직접 오디오 캡처, 그리고 (FastAPI로 구축된) WebSocket 서비스를 활용하여 브라우저에서 서버로 MP3 형식의 오디오 청크를 전송하여 저지연 받아쓰기를 수행하는 방법입니다.

대상 사용자

SenseVoice 모델을 사용하여 실시간 음성 인식 기능을 애플리케이션에 통합하려는 개발자.

주요 특징

  • 마이크 입력을 통한 실시간 받아쓰기.
  • 브라우저 기반 오디오 스트리밍을 위한 WebSocket 서버.
  • wav 파일 받아쓰기 지원.
  • Recorder 라이브러리와의 통합을 통한 효율적인 오디오 전송.

관련

  • 프로젝트
  • 프로젝트
  • 프로젝트
  • 프로젝트