EXCEL数据缺失、混乱、重复怎么办?我用ETL带你走出困境

简介: 在我们的日常工作中,数据清洗通常是一个非常复杂和繁琐的过程,特别在EXCEL里进行数据清洗会显得格外痛苦,例如对数据进行简单的合并、去重、分列都需要花费不少的时间和功夫。虽然微软推出了power query这个厉害的清洗组件,但是M语言的门槛相对较高,一般人不易掌握。因此选择一个简洁的ETL工具去对数据进行清洗是一个非常好的选择。除了可以节省大量的时间,还能以可视化的界面进行操作,无需任何代码便可以快速对数据进行清洗。下面利用智分析的ETL工具,对EXCEL常见的几种清洗方法进行讲解。
   在我们的日常工作中,数据清洗通常是一个非常复杂和繁琐的过程,特别在EXCEL里进行数据清洗会显得格外痛苦,例如对数据进行简单的合并、去重、分列都需要花费不少的时间和功夫。虽然微软推出了power query这个厉害的清洗组件,但是M语言的门槛相对较高,一般人不易掌握。因此选择一个简洁的ETL工具去对数据进行清洗是一个非常好的选择。除了可以节省大量的时间,还能以可视化的界面进行操作,无需任何代码便可以快速对数据进行清洗。下面利用智分析的ETL工具,对EXCEL常见的几种清洗方法进行讲解。

1、 合并表格
我们平时工作中总会遇到需要对两个EXCEL表格进行合并的情况,例如对多个门店或者分公司的数据进行整合,如果列数都一样的时候,用复制粘贴的方式就可以对两个表格进行合并,但是如果表格的列数存在不一样的情况时,我们合并表格的难度会增加,例如以下两个表格,订单明细表B比订单明细表A多了一列,如果要合并这两个表格,则需要在A表里插入一列或者把B表里多出的这一列删除了,非常麻烦。但是用ETL工具处理就会非常迅速,以下为我用智分析的自助ETL功能对表格进行合并的方法。
image.png

▲订单明细表A
image.png

▲订单明细表B
第一步要做的就是先把两份数据导进智分析系统里,在数据连接的界面里选择EXCEL导入,分别把订单明细表A和订单明细表B导进来,并选择保存的路径。
image.png

接下来点击数据准备里的自动ETL,进入到ETL的界面后把关系数据源拖拽到中间的展示区里,并在右边的参数里找到两份表格,然后鼠标右键点击关系数据源里的“执行到此处”。

image.png

由于订单明细表B有多余的字段,我们先对这个数据源进行列选择,把数据源预处理里的‘“列选择”拖拽过去,并与订单明细表B进行相连,在输出列的界面里,把多余的字段剔除掉,这样便可以得到与A表字段相同的数据源。
image.png
image.png

最后把“合并行”这个组件拖拽到展示区里,并把订单明细表A和加工过的订单明细表B进行相连,在参数选择里选择所有字段,合并方式选择并集,这样便可以把两个表格合并在一起了。

image.png

我们看一下输出的结果,两份数据源完美地结合在一起了。如果对字段更多、更复杂的数据源进行合并,这个工具可以发挥出给力的效果。
image.png

2、 删除重复项
数据源有重复项也是经常会遇到的问题,在EXCEL里通常可以用删除重复项的功能去对数据进行去重处理,但是利用ETL一样也可以对数据进行去重。还是用上面的数据源,我们把“去除重复值”这个组件拖拽到展示区里,并与上面合并好的数据源进行相连。
image.png

连接好之后,在右边的参数选择项里选择要去重的字段,然后点击执行,我们来看一下输出的效果,两个表格里的重复值便剔除掉了,剩下的表格都是唯一值了。
image.png
image.png

3、 分列
在用EXCEL处理数据时,经常要对一些数据字段进行分列,例如上图的数据源中,我们发现了数据源中销售人员这一列有多余的信息,多了销售代表这几个字,我们应该怎样把后面名字给提取出来呢?在EXCEL中可以用LEFT、RIGHT函数或者分列的方式对文本字段进行提取,但是在ETL里一样也可以实现。首先把“分列”这个组件拉拽到展示区里,并与上面的数据源进行相连。
image.png

在右边的参数设置区里,我们先把需要分列的数据字段选择好,然后在分隔符选项里选择分列字段里所携带的分隔符,这里我们选择“-”。
image.png

我们执行看一下执行的效果,销售人员这个字段被分成了两列,并生成了新的两个字段,完美地实现了分列的效果。

image.png

4、 派生字段
如果要在ETL里增加新的数据字段也是没问题的,例如上图数据源里的订单日期包含了日期、时分秒这些信息,但是如果要把里面的年份提取出来,应该怎么做呢?这时我们把“派生字段”拉拽到展示区里,并与上面的数据进行相连。
image.png

在参数的设置界面里,点击年份提取的函数,并选择订单日期这个字段,点击确定。
image.png

我们看一下输出的效果,数据源最后的一列生成了新的一列,仅有年份的信息。如果要生成其他的字段也是可以实现的,只需编写表达式即可。
image.png

5、 元数据编辑
ETL还可以对数据的类型进行更改,例如把字段调整为浮点型、字符串、整型或者是其他的类型。同样的方法,我们把“元数据编辑”拉拽到展示区里,并与上面的数据源进行相连。
image.png

在元数据编辑的参数设置里,可以对数据字段的别名或者数据类型进行设置,这个对于数据库来说非常有用。

image.png

 以上为用ETL工具对EXCEL进行数据清洗的5个常用方法,后面还会对其他清洗方法进行讲解,敬请留意。
相关文章
|
29天前
|
数据采集 存储 JavaScript
自动化数据处理:使用Selenium与Excel打造的数据爬取管道
本文介绍了一种使用Selenium和Excel结合代理IP技术从WIPO品牌数据库(branddb.wipo.int)自动化爬取专利信息的方法。通过Selenium模拟用户操作,处理JavaScript动态加载页面,利用代理IP避免IP封禁,确保数据爬取稳定性和隐私性。爬取的数据将存储在Excel中,便于后续分析。此外,文章还详细介绍了Selenium的基本设置、代理IP配置及使用技巧,并探讨了未来可能采用的更多防反爬策略,以提升爬虫效率和稳定性。
|
3月前
|
关系型数据库 MySQL Shell
不通过navicat工具怎么把查询数据导出到excel表中
不通过navicat工具怎么把查询数据导出到excel表中
41 0
|
26天前
|
数据处理 Python
Python实用记录(十):获取excel数据并通过列表的形式保存为txt文档、xlsx文档、csv文档
这篇文章介绍了如何使用Python读取Excel文件中的数据,处理后将其保存为txt、xlsx和csv格式的文件。
44 3
Python实用记录(十):获取excel数据并通过列表的形式保存为txt文档、xlsx文档、csv文档
|
5月前
|
数据安全/隐私保护
杨老师课堂之Excel VBA 程序开发第七讲表格数据高亮显示
杨老师课堂之Excel VBA 程序开发第七讲表格数据高亮显示
48 1
|
28天前
|
easyexcel Java UED
SpringBoot中大量数据导出方案:使用EasyExcel并行导出多个excel文件并压缩zip后下载
在SpringBoot环境中,为了优化大量数据的Excel导出体验,可采用异步方式处理。具体做法是将数据拆分后利用`CompletableFuture`与`ThreadPoolTaskExecutor`并行导出,并使用EasyExcel生成多个Excel文件,最终将其压缩成ZIP文件供下载。此方案提升了导出效率,改善了用户体验。代码示例展示了如何实现这一过程,包括多线程处理、模板导出及资源清理等关键步骤。
|
2月前
|
数据采集 存储 数据挖掘
使用Python读取Excel数据
本文介绍了如何使用Python的`pandas`库读取和操作Excel文件。首先,需要安装`pandas`和`openpyxl`库。接着,通过`read_excel`函数读取Excel数据,并展示了读取特定工作表、查看数据以及计算平均值等操作。此外,还介绍了选择特定列、筛选数据和数据清洗等常用操作。`pandas`是一个强大且易用的工具,适用于日常数据处理工作。
|
3月前
|
SQL JSON 关系型数据库
n种方式教你用python读写excel等数据文件
n种方式教你用python读写excel等数据文件
|
3月前
|
存储 Java Apache
|
3月前
|
数据可视化 Python
我是如何把python获取到的数据写入Excel的?
我是如何把python获取到的数据写入Excel的?
45 2
|
3月前
|
索引 Python
Python基于Excel多列长度不定的数据怎么绘制折线图?
本文档详述了如何运用Python从CSV格式的Excel文件中读取特定范围的数据,并基于这些数据绘制多条折线图。文件的第一列代表循环增长的时间序列,后续各列包含不同属性的数据。通过指定起始与结束行数,可选取一个完整的时间循环周期内的数据进行绘图。每列数据以不同颜色和线型表示,并且图片长度会根据时间序列的长度动态调整,确保图表清晰易读。最终生成的图表将保存至指定文件夹。

相关实验场景

更多