hyperai/tvm-cn
TVM Documentation in Chinese Simplified / TVM 中文文档
プロジェクト: hyperai/tvm-cn
このプロジェクトは、Apache TVMの中国語ドキュメントサイトです。Apache TVMは、CPU、GPU、ARMなどのハードウェアで動作するオープンソースのディープラーニングコンパイラです。目的は、公式TVMドキュメントの集中的で最新の翻訳を提供することで、中国語話者の開発者がTVMを学びやすくすることです。
現在の中国語ドキュメントはTVMバージョンv0.10.0に基づいており、Docusaurus（静的サイトジェネレーター）で構築されています。READMEには、ローカル開発サーバーのセットアップ方法（Node.jsとpnpmが必要）、外部画像をプロジェクトに移行する方法、TVMが更新をリリースしたときに新しいバージョン付きドキュメントを作成する方法が説明されています。
貢献者を歓迎します：
- 翻訳の問題を報告したり、プルリクエストを送信する
- ドキュメントの翻訳と保守を支援する
- 中国語TVMコミュニティに参加して議論する
プロジェクトはまた、ライブ中国語ドキュメントサイトへのリンクと貢献ガイドを提供しています。
要するに、これはTVMのドキュメントを中国語で利用可能にし、改善に協力したい人に明確な指示を提供するコミュニティ主導の取り組みです。
関連
- プロジェクト
vllm-project/llm-compressorLLM Compressor 是一个 Python 库，用于量化和压缩大型语言模型，以便通过 vLLM 实现快速、低内存推理。它支持多种低位格式（FP8、FP4、INT4）、多种算法（GPTQ、AWQ、AutoRound、REAP），并可通过磁盘卸载和 DDP 处理数万亿参数模型。该库直接与 Hugging Face 检查点集成，以 `compressed-tensors` 格式保存模型，并提供即用示例和预压缩检查点。
- プロジェクト
NVIDIA/k8s-device-pluginNVIDIA k8s‑device‑plugin は、NVIDIA GPU 向けに Kubernetes の device‑plugin API を実装した公式 DaemonSet です。GPU を検出し、ヘルス状態を報告し、`nvidia.com/gpu` リソース（オプションで MIG や shared‑GPU モード）を通じてスケジュール可能にします。各ノードに NVIDIA ドライバーとコンテナツールキットをインストールし、プラグイン（静的マニフェストまたは Helm）をデプロイしてから、pod 仕様で GPU を要求します。設定はフラグ、環境変数、または YAML ファイルで行うことができ、MIG 戦略、デバイスリストの配信、共有 GPU（タイムスライシングまたは MPS）などが含まれます。このプラグインはベータ版であり、完全なヘルスチェック/クリーンアップが欠如しており、公式の NVIDIA バージョンのみがサポートされています。
- プロジェクト
Lightning-AI/LitServeLitServeは、カスタム推論サーバーを構築するためのPythonベースのフレームワークであり、開発者がモデル、エージェント、およびRAGパイプラインのためのバッチ処理、ルーティング、およびオーケストレーションの独自のロジックを定義することを可能にします。
- プロジェクト