datawhalechina/self-llm
《开源大模型食用指南》针对中国宝宝量身打造的基于Linux环境快速微调(全参数/Lora)、部署国内外开源大模型(LLM)/多模态大模型(MLLM)教程
このプロジェクトの概要
self-llm(タイトルは「开源大模型食用指南」、おおよそ「オープンソース LLM の初心者向けガイド」)は、無料のコミュニティ執筆によるチュートリアル集です。中国語を話す初心者に、Linux コンピュータでオープンソースの大規模言語モデル(LLM)をインストール、実行、カスタマイズする方法を教えます。
このプロジェクトの核心的な目標は、技術的な障壁を下げ、エンジニアだけでなく一般の学生や研究者が、有料 API を呼び出すだけでなく、実際にローカルでオープンソース LLM を使用できるようにすることです。
対象読者
README には以下の対象学習者がリストされています:
- LLM を使いたいが、商用 API にアクセスできない、または費用を負担できない人
- 長期的、低コスト、高容量の LLM 使用を必要とする人
- オープンソース LLM に興味があり、実践的な経験を得たい人
- 理論を超えたい NLP 学生
- カスタマイズされたドメイン固有の LLM を構築したい人(例:自分の分野向け)
- 特別な技術的背景を持たない一般の学生
教える内容
推奨順序で 4 つの主要なスキル領域:
- 環境構築 — さまざまなモデルに合わせたステップバイステップの Linux 設定ガイド
- デプロイ — モデルをローカルで実行する方法。コマンドライン使用、Web デモ、LangChain フレームワークとの統合を含む
- ファインチューニング — 全量ファインチューニング(分散トレーニングを含む)と、LoRA や P-Tuning などの効率的な方法の両方
- 応用 — デプロイ後にモデルを使用する実用的な方法
サポートされているモデルとプラットフォーム
- 50 以上の主流 LLM がカバーされ、それぞれに完全なデプロイ、ファインチューニング、使用チュートリアルがあります。例:Qwen(複数バージョン)、DeepSeek、GLM/ChatGLM、Llama、InternLM、MiniCPM、Gemma、Kimi、Baichuan、Yi など。
- AMD GPU セクション — ROCm を介して AMD ハードウェアでモデルを実行するチュートリアル。LM Studio、vLLM、Ollama、llama.cpp などのツールを使用。AMD 大学プログラムによってサポートされています。
- Ascend NPU セクション — Huawei Ascend NPU プラットフォームのチュートリアル。vLLM-ascend、MindIE、sglang-ascend によるデプロイ、およびパフォーマンス/精度テストガイドを含む。
- Apple M シリーズ — Apple Silicon Mac 専用セクション(別途リンク)。
- Muxi GPU — 「近日公開」としてリストされています。
- プロジェクトは他のハードウェアプラットフォーム(例:Moore Threads MUSA)からの貢献を明示的に歓迎しています。
含まれるサンプルプロジェクト
4 つの完全な例が実際のパイプラインを示しています:
- Chat-嬛嬛 — 中国のテレビドラマ『宮廷の諍い女』の台詞で LoRA を使用してファインチューニングされたチャットボットで、キャラクターの話し方を模倣します
- Tianji-天机 — 社会的/対人シナリオのための完全な LLM システム。プロンプトエンジニアリング、エージェント構築、データ収集、ファインチューニング、RAG データクリーニングをカバー
- AMChat — InternLM2-Math-7B からファインチューニングされた数学特化 LLM で、高等数学の質問に回答します
- 数字生命(デジタルライフ) — カスタムデータセットでファインチューニングされた個人用 AI クローンで、作成者のトーン、表現、思考パターンを模倣します。データセット構築プロセスが重要な革新として強調されています
推奨される学習パス
- 最初に環境設定(基礎です)
- 次にモデルのデプロイと使用
- 最後にファインチューニング(高度なトピックです)
初心者は Qwen1.5、InternLM2、MiniCPM などのモデルから始めることをお勧めします。
コミュニティと貢献
- 誰でも issue を開いたり、pull request を送信してプロジェクトの構築を支援できます。
- 活発な貢献者はメンテナーとして追加できます。
- このプロジェクトは Datawhale オープンソースコミュニティの一部であり、関連チュートリアルも維持しています:Happy-LLM(ゼロから LLM を構築)、Tiny-Universe(RAG、Agent、Eval システムを手書き)、so-large-llm(LLM 理論)、llm-universe(LLM アプリケーションの構築)。
- 名前付きのコア貢献者の長いリストがクレジットされ、貢献者グラフとスター履歴チャートもあります。
重要なポイント
プロジェクトの使命声明:「私たちは LLM と一般の人々の間の足がかりになることを願っています——オープンソースの自由で平等な精神で広大な LLM の世界を受け入れます。」
関連
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト