开发者社区> 问答> 正文

Transformation和action是什么?区别?

Transformation和action是什么?区别?

展开
收起
游客ahv54x37wvm7u 2021-12-13 19:35:46 637 0
1 条回答
写回答
取消 提交回答
  • RDD 创建后就可以在 RDD 上进行数据处理。RDD 支持两种操作:1. 转换(transformation): 即从现有的数据集创建一个新的数据集 2. 动作(action): 即在数据集上进行计算后,返回一个值给 Driver 程序

    RDD 的转化操作是返回一个新的 RDD 的操作,比如 map() 和 filter() ,而行动操作则是向驱动器程序返回结果或把结果写入外部系统的操作,会触发实际的计算,比如 count() 和 first() 。Spark 对待转化操作和行动操作的方式很不一样,因此理解你正在进行的操作的类型是很重要的。如果对于一个特定的函数是属于转化操作还是行动操作感到困惑,你可以看看它的返回值类型:转化操作返回的是 RDD,而行动操作返回的是其他的数据类型。

    RDD 中所有的 Transformation 都是惰性的,也就是说,它们并不会直接计算结果。相反的它们只是记住了这些应用到基础数据集(例如一个文件)上的转换动作。只有当发生一个要求返回结果给 Driver 的 Action 时,这些 Transformation 才会真正运行。

    这个设计让 Spark 更加有效的运行。

    2021-12-13 19:36:01
    赞同 展开评论 打赏
问答地址:
问答排行榜
最热
最新

相关电子书

更多
AutoAlerts-From Data to Action 立即下载
Custom applications with Spark’s RDD 立即下载
Data-Aware Spark 立即下载