modal-labs/gpu-glossary

GPU documentation for humans

このリポジトリには、Modal GPU 用語集 のソースファイルが含まれています。これは、GPU プログラミングに関連する用語のオンライン辞書であり、Modal プラットフォームで利用可能な NVIDIA GPU に焦点を当てています。

内容： 用語集のコンテンツは gpu-glossary フォルダにあります。リポジトリの残りの部分には、サポートファイル（ライセンステキスト、ビルドツールなど）が含まれています。

ライセンス： 2つのライセンスが適用されます。gpu-glossary フォルダ内のすべてのファイルは、クリエイティブ・コモンズ 表示 4.0 国際 (CC BY 4.0) ライセンスの下にあります。リポジトリ内の他のすべてのファイルは、MIT ライセンス の下にあります。各ライセンスファイルが含まれています。

翻訳： README には、miter6/gpu-glossary-zh にあるコミュニティ管理の中国語（簡体字）翻訳へのリンクがあります。

関連

  • プロジェクト
    SharpAI/SwiftLM

    Apple Silicon上のMLXモデル向けのネイティブSwift、OpenAI互換推論サーバー。TurboQuant（KVキャッシュを4倍圧縮）、MTP投機的デコード、大規模MoEモデル向けのSSDストリーミングを特徴とし、Mシリーズチップでの広範なベンチマークを備えています。

  • プロジェクト
    bstnxbt/dflash-mlx

    Apple Silicon向けの予測的デコード実装で、ブロック拡散ドラフトモデルを使用してLLM推論を加速しつつ、出力品質を損なわない。

  • プロジェクト
    tiiuae/Falcon-Perception

    Falcon‑Perceptionは、Falconマルチモーダルトランスフォーマー向けのオープンソースPyTorch/MLX推論ライブラリで、自然言語クエリに応じてオブジェクト検出、インスタンスセグメンテーション、またはOCRを実行できます。高度に最適化されたページド・バッチエンジン、FastAPIサーバー、Streamlit UI、Docker/vLLMによるOCRデプロイ、Colabノートブックを提供。270 MパラメータのFalcon‑OCR 1.5モデルは、はるかに大きなVLMと同等のエンドツーエンドOCR品質を実現しながらも、3倍小さく、リアルタイムやエッジデプロイに適しています。

  • プロジェクト
    sgasser/pasteguard

    PasteGuardは、リクエストがLLMプロバイダー（ChatGPT、Claude、Geminiなど）に到達する前に個人データとシークレットをマスクする自己ホスト型プロキシです。Docker経由で実行され、ダッシュボードを提供し、マスクのみとローカルLLMへのルーティングの2つのモードをサポートします。