DataTalksClub/data-engineering-zoomcamp
Data Engineering Zoomcamp is a free 9-week course on building production-ready data pipelines. Join the course here 👇🏼
这是什么
DataTalks.Club 提供的免费开源课程。在 9 周内,你将使用行业标准工具构建端到端数据管道。所有视频、材料和作业均免费。
适合谁
希望学习数据管道和现代数据工程栈的开发人员、分析师和数据科学家。无需数据工程经验——只需基础编码、一些 SQL 熟悉度,以及(有帮助但非必需)Python。
运作方式
两种学习方式:
- 实时队列(2027 年 1 月开课):预录讲座,但与其他学习者一起学习——截止日期、评分作业、排行榜、同行评审和完成证书。在课程平台注册。
- 自定进度:随时开始,所有材料在 GitHub 上。作业可用但不评分,无证书。仍然免费。
⚠️ “实时”并不意味着直播课程。两种选项中的所有讲座均为预录。“实时”仅指队列结构:截止日期、评分、同行、证书。
教学大纲(7 个模块 + 工作坊 + 最终项目)
| 模块 | 重点 | 教授工具 |
|---|---|---|
| 1 | 容器化与基础设施即代码 | Docker、Docker Compose、PostgreSQL、Terraform、Google Cloud Platform |
| 2 | 工作流编排 | 数据湖、Kestra |
| 工作坊 1 | 数据摄取 | API 读取、数据规范化、增量加载 |
| 3 | 数据仓库 | BigQuery、分区、聚类、BigQuery 中的 ML |
| 4 | 分析工程 | dbt(数据构建工具)与 DuckDB 和 BigQuery、测试、文档 |
| 5 | 数据平台 | Bruin(端到端管道)、部署到 BigQuery |
| 6 | 批处理 | Apache Spark、DataFrames、SQL、GroupBy 和 Joins 内部机制 |
| 7 | 流处理 | Kafka、Kafka Streams、KSQL、Avro 模式管理 |
最终项目 将所学知识应用于真实场景,并包含同行评审和反馈。
证书
仅授予在实时队列期间完成最终项目和同行评审的学习者。自定进度学习者不获得证书。
讲师(当前)
Alexey Grigorev、Michael Shoemaker、Will Russell、Anna Geller、Juan Manuel Perafan、Arsalan Noorafkan——以及过往讲师列表。
社区与支持
- Slack:加入 DataTalks.Club Slack 上的
#course-data-engineering频道,进行讨论、故障排除和社交。 - Telegram:公告。
- YouTube:讲座播放列表。
- 提供提问和公开学习的指南。
赞助商
Kestra、Bruin 和 dlthub——他们帮助课程成为可能。
学员反馈
一些学员表示课程帮助他们获得了第一份技术工作,称其“困难但值得”,并赞扬其注重基础而非流行工具。
背后的组织
DataTalks.Club——一个全球性的数据爱好者在线社区。除了本课程,他们还举办活动、社区活动和其他免费课程。
底线: 一个免费、动手实践、结构化的数据工程入门。选择实时队列以获得截止日期、社区压力和证书——或自定进度,按自己的节奏学习材料。
相关
- 项目
- 项目
- 项目
- 项目