Paper-Replications – 고전 및 최신 AI/ML 논문의 처음부터 작성된 PyTorch 구현

이것은 무엇인가

• 많은 영향력 있는 머신러닝 논문의 결과를 재현하는 자체 포함된 PyTorch 코드 모음입니다. 각 하위 디렉토리는 단일 모델 또는 기술(예: BERT, GPT, Llama, Diffusion, GAN 변형, LoRA, Whisper 등)에 초점을 맞추며, 원본 논문에 설명된 실험을 실행하는 데 필요한 스크립트, 노트북, 때로는 사전 훈련된 가중치를 포함합니다.

왜 중요한가

• 재구현은 논문의 알고리즘이 어떻게 작동하는지 배우고, 주장을 검증하며, 확장하거나 미세 조정할 수 있는 기준선을 제공하는 데 가치가 있습니다. 고전적인 RNN부터 최신 LLM까지 다양한 모델을 제공함으로써, 이 저장소는 헤드라인 뒤의 코드를 탐구하려는 학생과 연구자에게 실용적인 "실험 노트" 역할을 합니다.

주요 내용

• 폴더 계층 구조는 주요 연구 영역(주의 메커니즘, Transformer, GAN, 비전-언어 모델, RLHF 방법 등)을 반영합니다.
• 각 폴더 안에는 일반적으로 다음이 있습니다:
  • 원본 논문과 편차를 요약한 README 또는 메모.
  • 모델을 구축, 훈련 및 평가하는 Python 스크립트/노트북.
  • 빠른 검증을 위한 선택적 사전 훈련된 체크포인트 또는 결과 로그.
• 저장소는 또한 일부 모델이 추론 엔드포인트로 배포된 smolhub에 대한 링크를 제공합니다.

시작하기

1. 저장소를 클론하고 탐색하려는 논문의 폴더로 이동합니다.
2. 로컬 README/노트북 지침을 따릅니다 – 일반적으로 pip install -r requirements.txt를 실행한 다음 제공된 훈련 또는 추론 스크립트를 실행합니다.
3. 빠른 검증을 위해 재현된 지표(보통 스크립트 끝에 인쇄됨)를 원본 출판물에 보고된 숫자와 비교할 수 있습니다.

누가 유지 관리하는가

• Yuvraj Singh(GitHub @YuvrajSingr-mist)이 작성했으며, 이슈 또는 풀 리퀘스트를 통해 커뮤니티 기여를 받습니다.
• GitHub 및 "Buy me a coffee" 링크를 통해 후원되며, 두 명의 개인 후원자에게 추가 감사를 드립니다.

라이선스

• 코드와 노트북은 Apache 2.0 라이선스로 배포됩니다.
• 문서, 다이어그램, 생성된 결과 및 게시된 산출물은 CC BY 4.0에 따릅니다.

사용 시 인용하세요

@software{singh_paper_replications_2025,
  title     = {Paper-Replications: From-Scratch PyTorch Replications of Classic and SOTA AI/ML Papers},
  author    = {Singh, Yuvraj},
  year      = {2026},
  publisher = {Zenodo},
  doi       = {10.5281/zenodo.23198171},
  url       = {https://github.com/YuvrajSingh-mist/Paper-Replications}
}

결론

• 잘 알려진 AI 논문의 동작을 모방하는 구체적이고 실행 가능한 PyTorch 코드가 필요하다면, 이 저장소는 바로 사용할 수 있는 도구 상자입니다. 프로덕션용 라이브러리가 아니라 최첨단 모델을 재현하고 확장하기 위한 교육 및 연구 지향 리소스입니다.