数据分析师数据“整理裁剪”成想要的样子

2020-11-16 10:50:57

职坐标

做完数据采集就可以直接进行分析了吗?肯定不是的。

就拿做饭打个比方吧，对于很多人来说，热油下锅、掌勺翻炒一定是做饭中最过瘾的环节，但实际上炒菜这个过程只占做饭时间的20%，剩下80%的时间都是在做准备，比如买菜、择菜、洗菜等等。

在数据分析中，数据清洗就是这样的前期准备工作。对于数据分析师来说，我们会遇到各种各样的数据，在分析前，要投入大量的时间和精力把数据“整理裁剪”成自己想要或需要的样子。

为什么呢?因为我们采集到的数据往往有很多问题。

我们先看一个例子，假设老板给你以下的数据，让你做数据分析，你看到这个数据后有什么感觉呢?

你刚看到这些数据可能会比较懵，因为这些数据缺少标注。

我们在收集整理数据的时候，一定要对数据做标注，数据表头很重要。比如这份数据表，就缺少列名的标注，这样一来我们就不知道每列数据所代表的含义，无法从业务中理解这些数值的作用，以及这些数值是否正确。但在实际工作中，也可能像这个案例一样，数据是缺少标注的。

我简单解释下这些数据代表的含义。这是一家服装店统计的会员数据。最上面的一行是列坐标，最左侧一列是行坐标。列坐标中，第0列代表的是序号，第1列代表的会员的姓名，第2列代表年龄，第3列代表体重，第4~6列代表男性会员的三围尺寸，第7~9列代表女性会员的三围尺寸。

了解含义以后，我们再看下中间部分具体的数据，你可能会想，这些数据怎么这么“脏乱差”啊，有很多值是空的(NaN)，还有空行的情况。

是的，这还仅仅是一家商店的部分会员数据，我们一眼看过去就能发现一些问题。日常工作中的数据业务会复杂很多，通常我们要统计更多的数据维度，比如100个指标，数据量通常都是超过TB、EB级别的，所以整个数据分析的处理难度是呈指数级增加的。这个时候，仅仅通过肉眼就很难找到问题所在了。

我举了这样一个简单的例子，带你理解在数据分析之前为什么要有数据清洗这个重要的准备工作。有经验的数据分析师都知道，好的数据分析师必定是一名数据清洗高手，要知道在整个数据分析过程中，不论是在时间还是功夫上，数据清洗大概都占到了 80%。

数据质量的准则

在上面这个服装店会员数据的案例中，一看到这些数据，你肯定能发现几个问题。你是不是想知道，有没有一些准则来规范这些数据的质量呢?

准则肯定是有的。不过如果数据存在七八种甚至更多的问题，我们很难将这些规则都记住。有研究说一个人的短期记忆，最多可以记住7条内容或信息，超过7条就记不住了。而数据清洗要解决的问题，远不止7条，我们万一漏掉一项该怎么办呢?有没有一种方法，我们既可以很方便地记住，又能保证我们的数据得到很好的清洗，提升数据质量呢?

在这里，我将数据清洗规则总结为以下4个关键点，统一起来叫“完全合一”，下面我来解释下：

完整性：单条数据是否存在空值，统计的字段是否完善;

全面性：观察某一列的全部数值，比如在Excel表中，我们选中一列，可以看到该列的平均值、最大值、最小值。我们可以通过常识来判断该列是否有问题，比如：数据定义、单位标识、数值本身;

合法性：数据的类型、内容、大小的合法性。比如数据中存在非ASCII字符，性别存在了未知，年龄超过了 200岁等;

唯一性：数据是否存在重复记录，因为数据通常来自不同渠道的汇总，重复的情况是常见的。行数据、列数据都需要是唯一的，比如一个人不能重复记录多次，且一个人的体重也不能在列指标中重复记录多次;

按照以上的原则，我们能解决数据清理中遇到的大部分问题，使得数据标准、干净、连续，为后续数据统计、数据分析做好准备。如果想要进一步优化数据质量，还需要在实际案例中灵活使用。

清洗数据

了解了数据质量准则之后，我们针对上面服装店会员数据案例中的问题进行一一击破。

这里你就需要Python的Pandas工具了。它是基于NumPy的工具，专门为解决数据分析任务而创建。Pandas纳入了大量库，我们可以利用这些库高效地进行数据清理工作。

这里我补充说明一下，如果你对Python还不是很熟悉，但是很想从事数据挖掘、数据分析相关的工作，那么花一些时间和精力来学习一下Python是很有必要的。Python拥有丰富的库，堪称数据挖掘利器。当然了，数据清洗的工具也还有很多，这里我们只是以Pandas为例，帮你应用数据清洗准则，带你更加直观地了解数据清洗到底是怎么回事儿。

下面，我们就依照“完全合一”的准则，使用Pandas来进行清洗。

完整性

问题1：缺失性

在数据中有些年龄、体重数值是缺失的，这往往是因为数据量较大，在过程中，有些数值没有采集到。通常我我们可以采用以下三种方法：

删除：删除数据缺失的记录

均值：使用当前列的均值

高频：使用当前列出现频率最高的数据

比如我们想对 df[‘Age’]中缺失的数值用平均年龄进行填充，可以这样写：

df['Age'].fillna(df['Age'].mean(), inplace=True)

如果我们用最高频的数据进行填充，可以先通过value_counts获取Age字段最高频次age_maxf，然后再对 Age 字段中缺失的数据用age_maxf进行填充：

age_maxf=train_features['Age'].value_counts().index[0]

train_features['Age'].fillna(age_maxf,inplace=True)

问题2：空行

我们发现数据中有一个空行，除了index之外，全部的值都是NaN。Pandas的read_csv()并没有可选参数来忽略空行，这样，我们就需要在数据被读入之后再使用dropna()进行处理，删除空行。

# 删除全空的行

df.dropna(how='all',inplace=True)

全面性

问题：列数据的单位不统一

观察weight列的数值，我们能发现weight列的单位不统一。有的单位是千克(kgs)，有的单位是磅(lbs)。

这里我使用千克作为统一的度量单位，将磅(lbs)转化为千克(kgs)：

# 获取 weight 数据列中单位为 lbs 的数据

rows_with_lbs = df['weight'].str.contains('lbs').fillna(False)

print df[rows_with_lbs]

# 将 lbs转换为 kgs, 2.2lbs=1kgs

for i,lbs_row in df[rows_with_lbs].iterrows():

# 截取从头开始到倒数第三个字符之前，即去掉lbs。

weight = int(float(lbs_row['weight'][:-3])/2.2)

df.at[i,'weight'] = '{}kgs'.format(weight)

合理性

问题：非 ASCII 字符

我们可以看到在数据集中Firstname和Lastname有一些非ASCII的字符。我们可以采用删除或者替换的方式来解决非ASCII问题，这里我们使用删除方法：

# 删除非 ASCII 字符

df['first_name'].replace(, regex=True, inplace=True)

df['last_name'].replace(, regex=True, inplace=True)

唯一性

问题 1：一列有多个参数

在数据中不难发现，姓名列(Name)包含了两个参数Firstname和Lastname。为了达到数据整洁目的，我们将Name列拆分成Firstname和Lastname两个字段。我们使用Python的split方法，str.split(expand=True)，将列表拆成新的列，再将原来的Name列删除。

# 切分名字，删除源数据列

df[['first_name','last_name']] = df['name'].str.split(expand=True)

df.drop('name', axis=1, inplace=True)

问题 2：重复数据

我们校验一下数据中是否存在重复记录。如果存在重复记录，就使用Pandas提供的drop_duplicates()来删除重复数据。

# 删除重复数据行

df.drop_duplicates(['first_name','last_name'],inplace=True)

这样，我们就将上面案例中的会员数据进行了清理，来看看清理之后的数据结果。怎么样?是不是又干净又标准?

养成数据审核的习惯

现在，你是不是能感受到数据问题不是小事，上面这个简单的例子里都有 6 处错误。所以我们常说，现实世界的数据是“肮脏的”，需要清洗。

第三方的数据要清洗，自有产品的数据，也需要数据清洗。可以说没有高质量的数据，就没有高质量的数据分析，而数据清洗是高质量数据的一道保障。

当你从事这方面工作的时候，你会发现养成数据审核的习惯非常重要。而且越是优秀的数据分析人员，越会有“数据审核”的“职业病”。这就好比编辑非常在意文章中的错别字、语法一样。