Rdd 算子_转换_filter | 学习笔记

简介: 快速学习 Rdd 算子_转换_filter

开发者学堂课程【大数据Spark2020最新课程(知识精讲与实战演练)第二阶段Rdd 算子_转换_filter学习笔记,与课程紧密联系,让用户快速学习知识。

课程地址:https://developer.aliyun.com/learning/course/689/detail/11968


Rdd 算子_转换_filter


内容介绍:

一、序言

二、filter

 

一、序言

数据清洗是数据记录的重要步骤,本质就是把一个数据集当中不合法非法的部分去除,那么在数据集当中去掉一部分数据该怎么去实现呢?

那么这个时候就要去借助一个新的 API 叫做 filter,这个 filter 可以帮助我们在处理器当中去掉一部分元素,filter 整个的原理就是假设说现在呢有一个数据集,经过 filter 的这个过滤,把数据集当中某一个内容去除掉了。

image.png


二、Filter

那么 filter 也是由算子以及算子里面所接收的这个函数来去构成的,filter 这个算子是要做一个过滤,它过滤的规则是要集中的函数来去指定,那么接下来就去写代码,看一看 filter,先进入到 idea 当中,去创建一个新的类,创建一个新的方法,那么这个方法我们就叫做 filter。创建好类之后,第一步是定义集合,第二步是过滤数据,第三是收集结果。

还是使用链式调用的方式,一行代码把三个要求实现。

通过 sc.parallelizeseq1,2,3)),接下来过滤数据,使用 filter,来调用数据。Filter 当中,每一个数据集就是数据库当中的每一个元素,这是需求是保留偶数,这时就可以用 item%2,如果一个数字能被2整除,即为偶数。接下来收集结果,用 for item 来收集结果。

@Test

def filter(): Unit =

// 1. 定义集合

// 2.过滤数据

// 3. 收集结果

sc.parallelize(Seq(1, 2, 3, 4, 5, 6, 7, 8, 9, 10)).filter(item => item % 2==0)

.collect()

.foreach(item => println(item))

运行结果如下:

image.png

通过新生成的rdd当中,只保留了2 4 6 8 10这些偶数,filter 的含义是可以过滤掉数据集当中的某一部分元素。

那么 filter 当中接收的函数,filter 中接收的这个函数参数是每一个元素,如果这个函数返回,那么当前元素就会被加入数据集,如果返回 false,那么就是意味着过滤掉当前元素。

相关文章
|
存储 算法 调度
万字长文!非常详细!操作系统【内存管理】
万字长文!非常详细!操作系统【内存管理】
|
存储 算法 C语言
C语言数组逆序
C语言数组逆序
|
机器学习/深度学习 并行计算 PyTorch
搭建(人工智能)或(视觉处理)环境前必看
在进行做人工智能或视图处理的一些ai环境搭建的时候,我们经常要下Anaconda要下cuda要下pytorch一大堆的东西,那么这些东西的作用和他们之间的关系是什么呢!
298 1
|
3天前
|
数据采集 人工智能 安全
|
13天前
|
云安全 监控 安全
|
4天前
|
自然语言处理 API
万相 Wan2.6 全新升级发布!人人都能当导演的时代来了
通义万相2.6全新升级,支持文生图、图生视频、文生视频,打造电影级创作体验。智能分镜、角色扮演、音画同步,让创意一键成片,大众也能轻松制作高质量短视频。
1089 152
|
18天前
|
机器学习/深度学习 人工智能 自然语言处理
Z-Image:冲击体验上限的下一代图像生成模型
通义实验室推出全新文生图模型Z-Image,以6B参数实现“快、稳、轻、准”突破。Turbo版本仅需8步亚秒级生成,支持16GB显存设备,中英双语理解与文字渲染尤为出色,真实感和美学表现媲美国际顶尖模型,被誉为“最值得关注的开源生图模型之一”。
1753 9
|
9天前
|
人工智能 自然语言处理 API
一句话生成拓扑图!AI+Draw.io 封神开源组合,工具让你的效率爆炸
一句话生成拓扑图!next-ai-draw-io 结合 AI 与 Draw.io,通过自然语言秒出架构图,支持私有部署、免费大模型接口,彻底解放生产力,绘图效率直接爆炸。
695 152