songlab-cal/gpn

해결하는 문제

GPN (Genomic Pretrained Network)는 전체 게놈 변이의 기능적 영향을 예측하기 위해 설계된 게놈 언어 모델의 세트를 제공합니다. 다양한 종과 진화적 규모에서 DNA 서열의 돌연변이가 게놈 서열에 기능적 제약을 제공하는 방식을 이해하는 문제를 해결합니다.

작동 방식

이 프로젝트는 게놈 데이터를 다양한 방식으로 처리하는 여러 모델 패밀리를 구현합니다:

• GPN: 정렬되지 않은 게놈에서 작동하는 기본 모델입니다.

• GPN-MSA: 다종 정렬(MSA) 기반 모델로, 훈련 및 추론 모두에 정렬된 게놈이 필요합니다.

• PhyloGPN: 계통발생적 접근법으로, 훈련 시 정렬을 사용하지만 추론 또는 미세조정에는 필요하지 않습니다.

• GPN-Star: 최신 버전으로, 훈련 및 추론 모두에 정렬된 게놈이 필요하며 기능적 제약을 예측합니다.

이 모델들은 표준 Transformers AutoClasses를 사용하여 기존 워크플로에 통합하거나, 로그릿, 임베딩, 변이 효과 예측(VEP) 등의 작업을 위한 전용 명령줄 인터페이스(CLI)를 통해 사용할 수 있습니다.

대상 사용자

유전적 변이의 영향을 예측하고 사전 학습된 언어 모델을 사용하여 게놈 서열을 분석해야 하는 게놈학, 계산 생물학, 생물정보학 연구자들입니다.

주요 특징

• 다양한 모델 아키텍처: 정렬 여부에 따라 맞춤형으로 설계된 다양한 모델(GPN, GPN-MSA, GPN-Star, PhyloGPN) 제공.
• Transformers 통합: GPN-Star는 Hugging Face Transformers 라이브러리의 AutoModelForMaskedLM를 통해 로드 가능.
• 포괄적인 도구 세트: 훈련, 변이 효과 예측, 임베딩 추출을 위한 CLI 포함.
• 동료 검토 논문 기반: Nature 및 PNAS와 같은 저널에 다수의 논문 발표됨.