DataTalksClub/llm-zoomcamp

LLM Zoomcamp - a free online course about real-life applications of LLMs. In 10 weeks you will learn how to build an AI system that answers questions about your knowledge base. Register here 👇🏼

LLM Zoomcamp — 这个项目是什么

LLM Zoomcamp 是一个免费、开源、为期10周的在线课程,教你如何构建由大型语言模型(LLM)驱动的真实、生产级应用程序——也就是 ChatGPT 等工具背后的技术。它由 DataTalks.Club 创建,这是一个全球数据爱好者社区。

这个课程是动手实践的:你通过构建来学习,而不只是观看。课程结束时,你将拥有一个可运行的代码库,以及构建自己的 LLM 驱动应用程序的技能。

你将学到什么

该课程涵盖了构建 LLM 应用所需的完整工具包,包括:

  • 检索增强生成(RAG) — 一种让 LLM 使用你自己的文档或数据(而不是仅凭其内置知识)来回答问题的技术
  • 向量搜索 — 通过含义/语义(而非精确关键词)查找相关信息
  • 嵌入 — 使语义搜索成为可能的数学表示
  • AI 智能体与函数调用 — 让 LLM 能够执行操作和使用工具
  • 评估与监控 — 衡量应用性能并在生产中跟踪它
  • 混合搜索与重排序 — 结合关键词搜索和语义搜索以获得更好结果

适合谁

本课程专为通过实践学习的人设计。它对以下人群很有用:

  • 希望为真实产品添加 LLM 功能的软件工程师
  • 希望了解检索管道如何融入生产系统的数据工程师
  • 需要结构化方法来评估和监控 LLM 应用的机器学习从业者

先决条件: 你应该能熟练编写 Python 代码、使用命令行,并对 Docker 有基本了解。不需要机器学习或 LLM 经验。不需要 GPU——标准笔记本电脑即可。如果你自己运行代码,大约需要花费 1–5 美元的 API 额度。

README 中简明扼要地写道:“如果你能编写一个 Python 函数,并且听说过 ChatGPT,那么你就已经足以开始了。”

课程如何进行

有两种学习方式:

实时小组 自定进度
开始 固定时间表 随时
讲座 预录视频 预录视频
作业 评分 可用,不评分
排行榜 有 无
同行评审 有 无
证书 有 无
费用 免费 免费

重要提示:“实时小组”不是指实时课程。所有讲座都是预录的。“实时”意味着你与他人一起按截止日期、评分作业、同行评审并在最后获得证书。

课程结构

教学大纲包含7 个模块以及一个顶点项目:

  1. 智能体 RAG — 使用关键词搜索构建 RAG 管道,然后通过函数调用使其具备智能体能力
  2. 向量搜索 — 使用嵌入进行语义搜索,使用 minsearch、sqlitesearch 和 PGVector 等工具
  3. 编排 — 使用 Kestra 进行 AI 编排
  4. 评估 — 衡量检索和答案质量,包括离线和在线
  5. 监控 — 通过实时仪表板跟踪用户反馈和系统健康
  6. 最佳实践 — LangChain、混合搜索、重排序
  7. 端到端项目 — 一个完整示例:使用 LLM 构建的健身助手

还有一个使用 dlt 管道进行数据摄取的工作坊。

顶点项目

要完成课程,你需要从零开始构建一个你自己的完整 RAG 应用程序,包括:

  • 可搜索的知识库(选择数据集、清理并存储)
  • 检索管道(完整的 RAG 流程:检索上下文、组装提示、调用 LLM、返回答案)
  • 评估流程(衡量检索和答案质量)
  • 面向用户的界面(如 Streamlit 或 FastAPI 应用)
  • 监控和反馈循环

往届学生构建过健身助手、学习伴侣、医学 FAQ 机器人、代码库问答工具和新闻摘要器。

证书

要获得完成证书,你必须:

  1. 完成最终项目
  2. 以书面反馈的形式同行评审 3 名其他学生的项目
  3. 遵守小组截止日期

自定进度的学习者无法获得证书,但可以自由构建作品集项目。

社区与支持

  • Slack — 讨论、故障排除和社交的主要中心(加入 #course-llm-zoomcamp 频道)
  • Telegram — 用于公告
  • 公开学习 — 课程鼓励在 LinkedIn、X 或博客上分享你的进展,这样可以获得额外加分

可选付费附加服务

AI Shipping Labs 是一个可选的付费社区,在免费课程的基础上增加了办公时间、责任冲刺、个性化入职和会员专属工作坊。这是一种获得额外支持的方式——核心课程仍然免费。

讲师与赞助商

本课程由 Alexey Grigorev(DataTalks.Club 创始人)、Will Russell(Kestra 开发者关系)和 Timur Kamaliev(AI 工程师)主讲。赞助商包括 Kestra(开源编排平台)和 dlt Hub(开源数据摄取工具)。

如何贡献

如果你在资料中发现错误,或者想改进解释或修复代码,你可以 fork 仓库、进行修改并提交拉取请求。

总结

LLM Zoomcamp 是一门免费、实用、社区驱动的课程,让你在 10 周内从 LLM 基础知识到构建生产级 AI 助手——并且可以选择实时小组体验、获得证书,以及一路上有强大社区的支持。

相关

  • 项目
  • 项目
  • 项目
  • 项目