gpu-mode/lectures

このリポジトリには、GPU MODE レクチャーシリーズのサポートファイルがホストされています。これは、GPUコンピューティングに関するコミュニティ運営のトークシリーズです。プロジェクト自体は単なる資料のフォルダであり、各レクチャーには独自のサブフォルダまたは外部リンクがあり、スライド、Jupyter ノートブック、コード、または PDF が含まれています。

対象内容: GPU に関する実践的かつ技術的なトピックで、特に CUDA と PyTorch の統合に焦点を当てています。指定された併用テキストは、書籍『Programming Massively Parallel Processors』(PMPP) です。トピックは、初心者向けの CUDA の基本とプロファイリングから、Flash Attention、量子化、Triton 内部、集合通信 (NCCL)、さらには ARM CPU 向けの GPU カーネルまで多岐にわたります。

対象読者: すでに Python または PyTorch の基礎知識があり、GPU プログラミングをより深く学びたい人向けです。レクチャーは YouTube チャンネルで録画されており、ディスカッション用の Discord コミュニティもあります (リンクは README にあります)。

形式: ここにはメインのコードベースやライブラリはありません。リポジトリは、レクチャーごとに1エントリの、リンクとファイルの整理されたコレクションです。各エントリには通常、スピーカー (ソーシャルまたは GitHub リンク付き) と、ローカルファイルパス (ノートブックの場合は lecture_003/ など) または Google Drive、Dropbox、Colab 上のスライドへの外部リンクがリストされています。一部のレクチャーには、Google Colab で直接実行できるハンズオンノートブックがあります。

構成に関する実用的な注意: レクチャー番号は連続していません。リストは 43 から 57、67、78 などに飛びます。つまり、番号は実際のトーク順を反映しており、完全なカリキュラムではありません。いくつかのエントリには不完全なメタデータがあります (例: レクチャー 43 にはスピーカー名がなく、スライドのみ)。

要するに: 実務者から GPU プログラミングを学びたい場合、このリポジトリは、すべてのオリジナルの教材 (スライド、ノートブック、コード) を1か所にまとめた、よく索引付けされたシラバスです。