Natooz/MidiTok

MIDI / symbolic music tokenizers for Deep Learning models 🎶

What it solves

MidiTok은 음악 파일(MIDI 및 abc)을 머신러닝 모델(예: Transformers)이 이해할 수 있는 토큰 시퀀스로 변환하는 표준화된 방법을 제공합니다. 이를 통해 음악 생성, 전사, 혹은 Music Information Retrieval(MIR)과 같은 작업에서 복잡한 음악 토큰화 방식을 직접 구현할 필요가 없어집니다.

How it works

이 라이브러리는 REMI, MIDI‑Like, CPWord 등 다양한 기존 음악 토큰화 방법을 구현합니다. 사용자는 음악을 토큰으로 표현하는 구체적인 파라미터를 설정할 수 있습니다. 또한 Byte Pair Encoding(BPE), Unigram, WordPiece와 같은 기술을 활용한 고급 어휘 학습을 지원하며, 데이터 증강 도구와 Hugging Face Hub와의 통합을 제공해 모델 공유를 용이하게 합니다.

Who it’s for

AI 음악 생성, 음악 전사 및 Music Information Retrieval(MIR) 분야에서 연구 및 개발을 진행하는 연구자와 개발자로, 딥러닝 모델 학습을 위해 음악 데이터셋을 준비해야 하는 분들을 위한 것입니다.

Highlights

  • Multiple Tokenization Schemes: REMI, REMI+, TSD, MuMIDI 등 업계 표준 토큰화 방식을 폭넓게 지원합니다.
  • Hugging Face Integration: Hugging Face Hub와 원활히 통합되어 사전 학습된 토크나이저를 푸시하고 다운로드할 수 있습니다.
  • Trainable Vocabularies: BPE, Unigram, WordPiece를 사용해 토크나이저를 학습시켜 최적화된 음악 표현을 얻을 수 있습니다.
  • PyTorch Ready: PyTorch 데이터셋 및 데이터 로더를 손쉽게 생성할 수 있는 유틸리티를 내장해 모델 학습 과정을 간소화합니다.