本讲义出自YongHua (Henry) Zeng在Hadoop Summit Tokyo 2016上的演讲，主要分享了基于Spark的高性能时空轨迹分析的相关背景、架构以及技术设计，在技术设计方面主要讲解了大数据平台的设计、数据治理的设计、算法模型以及Spark轨迹计算等内容，最后还对于高性能时空轨迹分析的未来发展进行了展望。
【Hadoop Summit Tokyo 2016】基于Spark的高性能时空轨迹分析
2017-03-01
2070
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《
阿里云开发者社区用户服务协议》和
《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写
侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介：
本讲义出自Rafael Coss在Hadoop Summit Tokyo 2016上的演讲，主要分享了基于Spark的高性能时空轨迹分析的相关背景、架构以及技术设计，在技术设计方面主要讲解了大数据平台的设计、数据治理的设计、算法模型以及Spark轨迹计算等内容，最后还对于高性能时空轨迹分析的未来发展进行了展望。
目录
相关文章
|
3月前
|
分布式计算
Kubernetes
Hadoop
大数据-82 Spark 集群模式启动、集群架构、集群管理器 Spark的HelloWorld + Hadoop + HDFS
大数据-82 Spark 集群模式启动、集群架构、集群管理器 Spark的HelloWorld + Hadoop + HDFS
213
6
6
|
3月前
|
分布式计算
资源调度
Hadoop
大数据-80 Spark 简要概述 系统架构 部署模式 与Hadoop MapReduce对比
大数据-80 Spark 简要概述 系统架构 部署模式 与Hadoop MapReduce对比
99
2
2
|
2月前
|
存储
分布式计算
Hadoop
数据湖技术：Hadoop与Spark在大数据处理中的协同作用
【10月更文挑战第27天】在大数据时代，数据湖技术凭借其灵活性和成本效益成为企业存储和分析大规模异构数据的首选。Hadoop和Spark作为数据湖技术的核心组件，通过HDFS存储数据和Spark进行高效计算，实现了数据处理的优化。本文探讨了Hadoop与Spark的最佳实践，包括数据存储、处理、安全和可视化等方面，展示了它们在实际应用中的协同效应。
153
2
2
|
2月前
|
存储
分布式计算
Hadoop
数据湖技术：Hadoop与Spark在大数据处理中的协同作用
【10月更文挑战第26天】本文详细探讨了Hadoop与Spark在大数据处理中的协同作用，通过具体案例展示了两者的最佳实践。Hadoop的HDFS和MapReduce负责数据存储和预处理，确保高可靠性和容错性；Spark则凭借其高性能和丰富的API，进行深度分析和机器学习，实现高效的批处理和实时处理。
138
1
1
|
3月前
|
SQL
分布式计算
Serverless
|
3月前
|
SQL
分布式计算
Hadoop
Hadoop-19 Flume Agent批量采集数据到HDFS集群 监听Hive的日志 操作则把记录写入到HDFS 方便后续分析
Hadoop-19 Flume Agent批量采集数据到HDFS集群 监听Hive的日志 操作则把记录写入到HDFS 方便后续分析
67
2
2
|
3月前
|
设计模式
数据采集
分布式计算
|
3月前
|
SQL
分布式计算
大数据
|
5月前
|
存储
SQL
分布式计算
Hadoop生态系统概述：构建大数据处理与分析的基石
【8月更文挑战第25天】Hadoop生态系统为大数据处理和分析提供了强大的基础设施和工具集。通过不断扩展和优化其组件和功能，Hadoop将继续在大数据时代发挥重要作用。
297
3
3
|
5月前
|
分布式计算
Hadoop
大数据
Spark 与 Hadoop 的大数据之战：一场惊心动魄的技术较量，决定数据处理的霸权归属！
【8月更文挑战第7天】无论是 Spark 的高效内存计算，还是 Hadoop 的大规模数据存储和处理能力，它们都为大数据的发展做出了重要贡献。
104
2
2
热门文章
最新文章
1
Flume+Hadoop：打造你的大数据处理流水线
2
基于Java的Hadoop文件处理系统：高效分布式数据解析与存储
3
使用Hadoop MapReduce进行大规模数据爬取
4
linux中HADOOP_HOME和JAVA_HOME删除后依然指向旧目录
5
Hadoop2.6.0运行mapreduce之推断（speculative）执行（下）
6
hadoop环境初始化搭建
7
简单的hadoop启动脚本
8
安装hadoop集群(Multi Cluster)
9
Hive报错:HiveException java.lang.RuntimeException: Unable to instantiate org.apache.hadoop.hive.ql.me
10
Hadoop大象之旅009-通过Shell操作hdfs
1
E-MapReduce Serverless Spark 版测评
11614
2
迟来的EMR Serverless Spark评测报告
282
3
E-MapReduce Serverless Spark 评测
85
4
E-MapReduce Serverless Spark开发者评测
90
5
带你读《阿里云产品五月刊》——五、阿里云 EMR Serverless Spark 版开启免费公测
109
6
EMR Serverless Spark 实践教程 | 通过 spark-submit 命令行工具提交 Spark 任务
456
7
实时计算 Flink版产品使用问题之使用Spark ThriftServer查询同步到Hudi的数据时，如何实时查看数据变化
62
8
E-MapReduce Serverless Spark 评测
68
9
Spark Streaming：解锁实时数据处理的力量
164
10
EMR Serverless Spark服务最佳实践测评
154