Logo
Section 1 / 9

数据清洗简介

本课程将重点讲解数据清洗的必要性,并介绍一些数据清洗的方法。

导入

数据清洗简介

本课程将重点讲解数据清洗的必要性,并介绍一些数据清洗的方法。

在本章中,我们将探讨数据科学生命周期的第三阶段——数据清洗。但在了解数据清洗的具体步骤之前,有一个问题需要先回答:我们为什么要清洗数据?

为什么需要清洗数据?

我们所接收和使用的数据并不完美。多种因素可能导致数据不完整、不一致或错误,例如:从多个来源收集数据、存储或读取数据时发生损坏、人工录入数据时出现错误、数据在网络传输过程中丢失等。如果直接使用原始数据进行分析,将导致分析结果错误,基于这些数据得出的结论也必然不准确。因此,在对数据进行任何分析之前,数据清洗是必不可少的一步。

卡通由马克·安德森创作,www.andertoons.com
卡通由马克·安德森创作,www.andertoons.com

数据清洗

数据清洗(或称数据净化)是指识别并修正不一致、不正确以及冗余的数据的过程。数据清洗主要包括以下方面:

  • 处理缺失数据
  • 去除重复数据
  • 识别并处理数据中的异常值
  • 清理可能不需要的多余数据
  • 统一不一致的数据格式
  • 将数据转换为标准格式,以便于后续处理

在接下来的课程中,我们将逐一探讨以上各个方面。但在那之前,我们需要先了解数据类型,这将在下一课中详细介绍。

在 Python 中处理表格数据

数据类型