Paper-Replications – 古典および最新AI/ML論文のゼロからのPyTorch実装

これは何か

• 多くの影響力のある機械学習論文の結果を再現する、自己完結型のPyTorchコードのコレクションです。各サブディレクトリは単一のモデルまたは技術（例：BERT、GPT、Llama、Diffusion、GANバリアント、LoRA、Whisperなど）に焦点を当て、元の論文で説明された実験を実行するために必要なスクリプト、ノートブック、場合によっては事前学習済みの重みを含みます。

なぜ重要か

• 再実装は、論文のアルゴリズムがどのように機能するかを学び、主張を検証し、拡張や微調整が可能なベースラインを提供するために価値があります。古典的なRNNから最新のLLMまで幅広いモデルを提供することで、このリポジトリは、見出しの背後にあるコードに飛び込みたい学生や研究者のための実用的な「ラボノート」として機能します。

主な内容

• フォルダ階層は主要な研究分野（注意機構、Transformer、GAN、視覚言語モデル、RLHF手法など）を反映しています。
• 各フォルダ内には通常、以下があります：
  • 元の論文と逸脱を要約したREADMEまたはメモ。
  • モデルを構築、トレーニング、評価するPythonスクリプト/ノートブック。
  • 簡単な検証のためのオプションの事前学習済みチェックポイントまたは結果ログ。
• リポジトリはまた、一部のモデルが推論エンドポイントとしてデプロイされているsmolhubへのリンクも提供しています。

始め方

1. リポジトリをクローンし、探索したい論文のフォルダに移動します。
2. ローカルのREADME/ノートブックの指示に従います – 通常はpip install -r requirements.txtを実行し、提供されたトレーニングまたは推論スクリプトを実行するだけです。
3. 簡単な検証のために、再現されたメトリクス（通常はスクリプトの最後に印刷されます）を元の出版物で報告された数値と比較できます。

誰が維持しているか

• Yuvraj Singh（GitHub @YuvrajSingr-mist）によって作成され、問題やプルリクエストを通じてコミュニティの貢献を受け付けています。
• GitHubおよび「Buy me a coffee」リンクを通じてスポンサーされており、2人の個人スポンサーに追加の感謝があります。

ライセンス

• コードとノートブックはApache 2.0ライセンスの下でリリースされています。
• ドキュメント、図、生成された結果、および公開された成果物はCC BY 4.0の下にあります。

使用する場合は引用してください

@software{singh_paper_replications_2025,
  title     = {Paper-Replications: From-Scratch PyTorch Replications of Classic and SOTA AI/ML Papers},
  author    = {Singh, Yuvraj},
  year      = {2026},
  publisher = {Zenodo},
  doi       = {10.5281/zenodo.23198171},
  url       = {https://github.com/YuvrajSingh-mist/Paper-Replications}
}

結論

• よく知られたAI論文の動作を模倣する具体的で実行可能なPyTorchコードが必要なら、このリポジトリはすぐに使えるツールボックスです。これは本番用のライブラリではなく、最先端のモデルを再現し拡張するための教育および研究指向のリソースです。