DataTalksClub/llm-zoomcamp
LLM Zoomcamp - a free online course about real-life applications of LLMs. In 10 weeks you will learn how to build an AI system that answers questions about your knowledge base. Register here 👇🏼
LLM Zoomcamp — 这个项目是什么
LLM Zoomcamp 是一个免费、开源、为期10周的在线课程,教你如何构建由大型语言模型(LLM)驱动的真实、生产级应用程序——也就是 ChatGPT 等工具背后的技术。它由 DataTalks.Club 创建,这是一个全球数据爱好者社区。
这个课程是动手实践的:你通过构建来学习,而不只是观看。课程结束时,你将拥有一个可运行的代码库,以及构建自己的 LLM 驱动应用程序的技能。
你将学到什么
该课程涵盖了构建 LLM 应用所需的完整工具包,包括:
- 检索增强生成(RAG) — 一种让 LLM 使用你自己的文档或数据(而不是仅凭其内置知识)来回答问题的技术
- 向量搜索 — 通过含义/语义(而非精确关键词)查找相关信息
- 嵌入 — 使语义搜索成为可能的数学表示
- AI 智能体与函数调用 — 让 LLM 能够执行操作和使用工具
- 评估与监控 — 衡量应用性能并在生产中跟踪它
- 混合搜索与重排序 — 结合关键词搜索和语义搜索以获得更好结果
适合谁
本课程专为通过实践学习的人设计。它对以下人群很有用:
- 希望为真实产品添加 LLM 功能的软件工程师
- 希望了解检索管道如何融入生产系统的数据工程师
- 需要结构化方法来评估和监控 LLM 应用的机器学习从业者
先决条件: 你应该能熟练编写 Python 代码、使用命令行,并对 Docker 有基本了解。不需要机器学习或 LLM 经验。不需要 GPU——标准笔记本电脑即可。如果你自己运行代码,大约需要花费 1–5 美元的 API 额度。
README 中简明扼要地写道:“如果你能编写一个 Python 函数,并且听说过 ChatGPT,那么你就已经足以开始了。”
课程如何进行
有两种学习方式:
| 实时小组 | 自定进度 | |
|---|---|---|
| 开始 | 固定时间表 | 随时 |
| 讲座 | 预录视频 | 预录视频 |
| 作业 | 评分 | 可用,不评分 |
| 排行榜 | 有 | 无 |
| 同行评审 | 有 | 无 |
| 证书 | 有 | 无 |
| 费用 | 免费 | 免费 |
重要提示:“实时小组”不是指实时课程。所有讲座都是预录的。“实时”意味着你与他人一起按截止日期、评分作业、同行评审并在最后获得证书。
课程结构
教学大纲包含7 个模块以及一个顶点项目:
- 智能体 RAG — 使用关键词搜索构建 RAG 管道,然后通过函数调用使其具备智能体能力
- 向量搜索 — 使用嵌入进行语义搜索,使用 minsearch、sqlitesearch 和 PGVector 等工具
- 编排 — 使用 Kestra 进行 AI 编排
- 评估 — 衡量检索和答案质量,包括离线和在线
- 监控 — 通过实时仪表板跟踪用户反馈和系统健康
- 最佳实践 — LangChain、混合搜索、重排序
- 端到端项目 — 一个完整示例:使用 LLM 构建的健身助手
还有一个使用 dlt 管道进行数据摄取的工作坊。
顶点项目
要完成课程,你需要从零开始构建一个你自己的完整 RAG 应用程序,包括:
- 可搜索的知识库(选择数据集、清理并存储)
- 检索管道(完整的 RAG 流程:检索上下文、组装提示、调用 LLM、返回答案)
- 评估流程(衡量检索和答案质量)
- 面向用户的界面(如 Streamlit 或 FastAPI 应用)
- 监控和反馈循环
往届学生构建过健身助手、学习伴侣、医学 FAQ 机器人、代码库问答工具和新闻摘要器。
证书
要获得完成证书,你必须:
- 完成最终项目
- 以书面反馈的形式同行评审 3 名其他学生的项目
- 遵守小组截止日期
自定进度的学习者无法获得证书,但可以自由构建作品集项目。
社区与支持
- Slack — 讨论、故障排除和社交的主要中心(加入 #course-llm-zoomcamp 频道)
- Telegram — 用于公告
- 公开学习 — 课程鼓励在 LinkedIn、X 或博客上分享你的进展,这样可以获得额外加分
可选付费附加服务
AI Shipping Labs 是一个可选的付费社区,在免费课程的基础上增加了办公时间、责任冲刺、个性化入职和会员专属工作坊。这是一种获得额外支持的方式——核心课程仍然免费。
讲师与赞助商
本课程由 Alexey Grigorev(DataTalks.Club 创始人)、Will Russell(Kestra 开发者关系)和 Timur Kamaliev(AI 工程师)主讲。赞助商包括 Kestra(开源编排平台)和 dlt Hub(开源数据摄取工具)。
如何贡献
如果你在资料中发现错误,或者想改进解释或修复代码,你可以 fork 仓库、进行修改并提交拉取请求。
总结
LLM Zoomcamp 是一门免费、实用、社区驱动的课程,让你在 10 周内从 LLM 基础知识到构建生产级 AI 助手——并且可以选择实时小组体验、获得证书,以及一路上有强大社区的支持。
相关
- 项目
- 项目
- 项目
- 项目