HeartMuLa/heartlib

HeartMuLa Official Repo: The Most Powerful Open-Source Music Generation Model of 2026

해결하는 문제

HeartMuLa는 가사와 태그를 기반으로 고품질 음악을 생성하도록 설계된 오픈 소스 음악 파운데이션 모델 제품군을 제공합니다. 제어 가능한 다국어 음악 생성 및 고충실도 오디오 재구성의 필요성을 해결하며, 음악 오디오의 생성과 분석을 위한 도구를 제공합니다.

작동 원리

이 프로젝트는 네 가지 주요 구성 요소로 이루어져 있습니다.

  • HeartMuLa: 제공된 가사와 태그를 기반으로 오디오를 생성하는 음악 언어 모델로, 다양한 언어를 지원합니다.
  • HeartCodec: 오디오를 이산 토큰으로 변환하고 48 kHz 스테레오 오디오를 고충실도로 재구성하는 12.5 Hz 음악 코덱입니다.
  • HeartTranscriptor: 오디오에서 가사를 전사하기 위해 특별히 튜닝된 Whisper 기반 모델입니다.
  • HeartCLAP: 음악 설명과 교차 모달 검색을 위한 통합 임베딩 공간을 생성하는 오디오-텍스트 정렬 모델입니다.

또한, 이 프로젝트에는 MuLaCover가 포함되어 있습니다. 이는 심볼릭 멜로디와 화음을 사용하여 음악적 정체성을 유지하면서 장르, 분위기, 악기 구성을 변경할 수 있는 제어 가능한 커버 곡 및 음악 리믹싱 모델입니다.

대상 사용자

이 툴킷은 음악 프로듀서, 오디오/음악 생성 분야의 AI 연구자, 그리고 고충실도의 제어 가능한 음악 합성 및 전사 기능이 필요한 음악 관련 애플리케이션 개발자를 위한 것입니다.

주요 특징

  • 다국어 지원: 거의 모든 언어의 가사를 기반으로 음악을 생성합니다.
  • 고충실도: HeartCodec을 통해 48 kHz 스테레오 오디오 재구성이 가능합니다.
  • 제어 가능성: 강화 학습(RL) 개선을 통해 음악 스타일과 태그를 정밀하게 제어할 수 있습니다.
  • 포괄적인 생태계: 생성, 토큰화, 재구성 및 전사를 위한 도구가 포함되어 있습니다.

관련

  • 프로젝트
  • 프로젝트
  • 프로젝트
  • 프로젝트