lonePatient/awesome-pretrained-chinese-nlp-models

Awesome Pretrained Chinese NLP Models,高质量中文预训练模型&大模型&多模态模型&大语言模型集合

项目简介

一份精心策划、持续更新的开源中文NLP模型列表("Awesome"列表)——包括大语言模型、多模态模型和经典预训练模型,以及围绕它们的工具、基准测试和平台。

包含内容

1. 大语言模型(LLM)——分为六个类别:

类别 涵盖内容
Base-LLM 参数超过70亿的通用基础模型(例如:Qwen-2.5、InternLM、Llama-3.1)
Domain-Base-LLM 面向金融、医疗、代码、数学等特定领域的基础模型(例如:Tongyi-Finance、ChiMed-GPT、CodeShell)
ChatLLM 用于对话和问答的会话模型(例如:DeepSeek-V3、GLM-4.6、Kimi-K2)
Domain-ChatLLM 面向垂直领域的会话模型,大多专注于代码(例如:DeepSeek-Coder-V2、CodeGeeX4)
MultiModal-ChatLLM 处理图像、音频、视频、3D或文档以及文本的模型(例如:MiniMax-Music3、Qianfan-OCR)
ReasoningLLM 具有强大数学/逻辑推理能力的模型(例如:GLM-5.3、Qwen3.8-Flash-Next)

2. 经典预训练模型系列(LLM前时代):

  • NLU(自然语言理解):BERT、RoBERTa、ALBERT、ERNIE等——29个模型
  • NLG(自然语言生成):GPT、T5、BART、CPM、RWKV等——18个模型
  • NLU-NLG(两者兼具):UniLM、GLM、CPT、SimBERT——9个模型
  • 多模态预训练:WenLan、CogView、Chinese-CLIP、OFA——13个模型

3. 嵌入模型——16个用于将文本/图像/视频转换为向量表示的模型(例如:Qwen3-Embedding、Conan-embedding-v1)。

4. 评估基准——七个用于衡量模型质量的工具:

  • C-Eval:横跨52个学科的13,948道多项选择题
  • FlagEval:多维评估(准确性、效率、鲁棒性)
  • SuperCLUElyb:使用Elo评级系统进行的匿名人与人对战模型
  • XiezhiBenchmark:横跨516个学科的220,000道题
  • Open LLM Leaderboard:HuggingFace的英语为主的排行榜
  • Chinese LLM Safety Evaluation Platform:检查仇恨言论、偏见、隐私侵犯等
  • OpenCompass:支持零样本、少样本和思维链测试的开源评估框架

5. 开源模型平台——模型下载地址:HuggingFace、ModelScope、flagopen、始智AI (wisemodel)。

6. 数据集仓库——七个训练数据来源,包括CLUECorpus2020(100GB中文文本)和MNBVC(大规模中文语料库)。

7. 其他Awesome列表——52个额外精选资源列表(AI代理、Claude技能等)。

每个模型条目的展示方式

每个模型以表格形式呈现,包含:大小(参数数量)、发布日期、语言、架构(例如:MoE = 混合专家,CD = 因果解码器)、下载链接、项目链接、机构,有时还有论文或博客链接。完整列表存储在单独的docs/文件中;README仅显示示例。

实用说明

  • README推荐在中国大陆难以从主站下载的用户使用HuggingFace镜像(hf-mirror.com)。
  • 该项目链接到学术综述论文《A Survey of Large Language Models》(arXiv:2303.18223)。
  • 该列表正在积极维护中,更新日志显示定期添加新模型(例如:2026年8月添加了Hy4-preview和GLM-5.3)。

一句话总结

一个一站式、组织良好的开源中文NLP模型目录——从经典的BERT时代模型到现代LLM——以及使用或评估它们所需的基准、平台和数据集。

相关

  • 项目
  • 项目
  • 项目
  • 项目