Logo
☆☆☆☆☆
0.0
Intermediate
10h

使用ETL传输数据

ETL 指的是抽取(Extract)、转换(Transform)和加载(Load)。它是一系列将来自不同来源的数据整合并加载到数据仓库或其他数据存储库中的过程。ETL 对于支持商业智能和数据分析至关重要。 在本课程中,你将实践从多种数据库系统(如 MySQL、PostgreSQL 和 MongoDB)中提取数据。你将使用 SQL、Python 和 Apache Spark 等查询与脚本语言处理数据,并将其加载到数据存储库或云平台(如 Google 的 GCP)中。最后,你将学习如何使用 cron 任务调度 ETL 流水线,或借助开源工具(如 Apache Airflow)实现自动化与监控,并利用 Python 的 pandas 库进行数据处理。 完成本课程后,你将掌握通过 ETL 流水线将数据从源端传输到目标端的各种方法、工具和技术。

6 Lessons
Included in Subscription Plan
Personalized Learning
Powered by AI
使用ETL传输数据
ETL 指的是抽取(Extract)、转换(Transform)和加载(Load)。它是一系列将来自不同来源的数据整合并加载到数据仓库或其他数据存储库中的过程。ETL 对于支持商业智能和数据分析至关重要。 在本课程中,你将实践从多种数据库系统(如 MySQL、PostgreSQL 和 MongoD...

WHAT YOU'LL LEARN

对ETL流程中提取、转换和加载步骤的理解

Content

6 Lessons • 0 Quizzes • 0 Challenges

简介
  1. 1

    入门

  2. 2

    ETL 流水线阶段

  3. 3

    什么是 ETL 流水线?

  4. 4

    一种新范式——ELT

  5. 5

    ETL 示例——提取

  6. 6

    ETL转换示例:解决数据质量问题

  7. 7

    ETL转换示例:处理缺失值和数据

  8. 8

    ETL转换示例:数据排序与最终处理

  9. 9

    ETL 示例——加载

  10. 10

    ETL 示例——调度

  11. 11

    批处理与流处理

  12. 12

    数据仓库

  13. 13

    示例与应用场景

  14. 14

    测验:ETL 流水线

E:提取
  1. 1

    简介

  2. 2

    数据提取方法概述

  3. 3

    使用网络爬虫提取数据

  4. 4

    网页抓取练习:读取数据

  5. 5

    网络爬虫练习:将数据框保存为 CSV 文件

  6. 6

    使用 REST API 提取数据

  7. 7

    练习:使用 REST API 提取数据

  8. 8

    从 MySQL 数据库中完整提取数据

  9. 9

    从 MySQL 数据库中进行增量提取

  10. 10

    从 MySQL 的二进制日志中提取数据

  11. 11

    从 PostgreSQL 数据库中提取数据

  12. 12

    从 Google BigQuery 提取数据

  13. 13

    练习:数据库

  14. 14

    测验:提取数据

结论
  1. 1

    最后的思考

T:转换
  1. 1

    简介

  2. 2

    使用 Python 进行数据类型定义与结构化

  3. 3

    练习:数据类型与结构化

  4. 4

    使用 Python 进行匿名化和加密

  5. 5

    练习:数据匿名化与加密

  6. 6

    使用 Apache Spark 进行数据清洗:缺失数据

  7. 7

    使用 Apache Spark 进行数据清洗:重复数据处理

  8. 8

    练习:数据清洗

  9. 9

    使用 SQL 进行过滤、排序、聚合和分组

  10. 10

    练习:过滤、排序、聚合与分箱

  11. 11

    测验:数据转换

数据加载
  1. 1

    简介

  2. 2

    托管与部署:本地部署 vs. 基于云的部署

  3. 3

    托管与部署:开源 vs. 专有

  4. 4

    加载方法:计划加载 vs. 按需加载

  5. 5

    加载方法:全量加载与增量加载

  6. 6

    使用 COPY 命令加载数据

  7. 7

    练习:COPY 命令

  8. 8

    练习:增量加载

  9. 9

    测验:加载数据

编排
  1. 1

    简介

  2. 2

    部署 Airflow

  3. 3

    ETL 流水线练习:数据提取

  4. 4

    ETL 流水线示例:Airflow 数据提取任务

  5. 5

    ETL 流水线练习:转换

  6. 6

    ETL 流水线示例:Airflow 转换任务

  7. 7

    ETL 流水线示例:加载

  8. 8

    与 Airflow 交互

Certificate of Completion

Showcase your accomplishment by sharing your certificate of completion.

Course Author:Anonymous User

Reviews

Read reviews from students who have taken this course and share your own experience.

Reviews & Comments (0)