licyk/qwen-tts-webui

해결하는 문제

이 프로젝트는 Qwen3-TTS 텍스트 음성 변환 모델에 사용자 친화적인 인터페이스와 API를 제공합니다. 텍스트에서 고품질 음성을 생성하는 과정을 단순화하며, 음성 복제, 음성 디자인, 스트리밍 오디오 출력 등의 기능을 포함합니다. 기본 모델 아키텍처에 대한 깊은 기술 지식이 필요하지 않습니다.

작동 방식

Qwen3-TTS 모델을 Gradio 기반 웹 인터페이스와 OpenAI 호환 API 서버로 래핑합니다. 이 프로젝트는 표준 HuggingFace 구현을 대체하는 최적화된 추론 코드를 포함하며, 정적 KV 캐시, NVIDIA GPU용 CUDA Graphs, 배치 처리 등의 기술을 활용하여 오디오 생성을 크게 가속화합니다. 모델 다운로드를 자동으로 처리하고 표준 OpenAI SDK를 통해 액세스할 수 있는 로컬 서버를 제공합니다.

대상 사용자

이 도구는 Qwen3-TTS를 애플리케이션에 통합하거나 음성 합성 작업에 로컬로 사용하려는 개발자와 사용자를 위한 것입니다. 특히 익숙한 OpenAI 스타일 API 패턴을 선호하거나 다양한 음성 및 음성 복제 기능을 실험할 수 있는 그래픽 인터페이스가 필요한 사용자에게 유용합니다.

주요 기능

• OpenAI API 호환성: 표준 OpenAI Audio Speech API 엔드포인트를 지원하여 기존 도구 및 SDK와 쉽게 통합할 수 있습니다.
• 성능 최적화: CUDA Graph 지원, 정적 KV 캐시, 자동 장치 관리와 같은 내장 가속 기능을 포함하여 지연 시간을 줄입니다.
• 다용도 합성: 표준 텍스트 음성 변환, 참조 오디오에서 음성 복제, 설명적 지침에 기반한 음성 디자인을 지원합니다.
• 유연한 배포: 수동 사용을 위한 웹 UI, 통합을 위한 독립 API 모드, 대기 시간을 줄이기 위한 스트리밍 오디오 출력을 지원합니다.