muscriptor/muscriptor

A multi-instrument music transcription model developed by Kyutai and Mirelo.

해결하는 문제

MuScriptor는 음악의 다중 악기 녹음본을 구조화된 디지털 형식인 MIDI 및 악보로 변환하는 도전 과제를 해결합니다. 음악가와 작곡가가 녹음을 편집 가능한 악보로 변환해야 할 때, 높은 정확도를 제공하는 오픈소스 대안을 목표로 합니다.

작동 방식

이 시스템은 오디오를 처리하고 변환 결과를 생성하기 위해 트랜스포머 디코더 전용 아키텍처를 사용합니다. 사용 가능한 하드웨어에 따라 속도와 정확도의 균형을 맞추기 위해 세 가지 모델 크기(소형, 중형, 대형)가 제공됩니다. 도구는 웹 애플리케이션, 명령줄 인터페이스(CLI), 또는 Python 라이브러리를 통해 통합하여 사용할 수 있습니다. 악보 생성을 위해 MuseScore 4를 통합하여, 현악기나 기타와 같은 현악기용 탭譜를 포함한 PDF 및 MusicXML 형식으로 음악을 인쇄(엔그레이빙)합니다.

대상 사용자

이 도구는 다중 악기 녹음을 MIDI 또는 전문 악보로 자동 변환하고자 하는 음악가, 작곡가, 연구자에게 적합합니다.

주요 특징

  • 다중 악기 지원: 하나의 녹음에서 여러 악기를 변환 가능.
  • 전문 악보 생성: MuseScore 4를 통해 PDF 스코어, MusicXML 파일, 악기별 탭譜를 출력.
  • 유연한 배포 옵션: 웹 UI, CLI, Python API를 제공하여 다양한 워크플로우에 대응.
  • 확장 가능한 모델 크기: CPU 전용 또는 GPU 가속 기계에 적합한 세 가지 모델(variants, 103M ~ 1.4B 파라미터) 제공.

관련

  • Dispatch
  • 프로젝트
  • 프로젝트
  • 프로젝트
  • 프로젝트