JStorm,让大规模流处理成为可能

简介: 本文PPT来自资深专家封仲淹于10月16日在2016年杭州云栖大会上发表的《Large-Scale Stream Processing inside Alibaba》。

本文PPT来自资深专家封仲淹于10月16日在2016年杭州云栖大会上发表的《Large-Scale Stream Processing inside Alibaba》。

JStorm 是阿里巴巴基于storm采用Java重写的一套开源的分布式实时流计算框架,其诞生于2013年,经历多次迭代,至今已经发布25了版本。总体而言,JStorm具有高性能、高稳定性,适于大规模部署这些特点,其他的用户方的特色功能包括用户自定义的调度器和资源用法、先进的日志机制、更细粒度的Metrics、动态规模调整和快速的应用升级等等。

目前,JStorm运行在超过4000台机器上,它不仅能单独部署,也实现了JStorm-on-yarn和JStorm-on-docker,使JStorm能够被部署在框架上。这些集群共形成了超过1500个应用和2000余个拓扑结构,每天产生的数据超过惊人的2PB。在实际运用中,JStorm有许多应用场景,如欺诈检测、广告审核、数据统计、系统监控、数据传输、实时推荐和应用调度等,除了供阿里自身使用,JStorm还被众安保险、科大迅飞、网宿科技等超过50家公司使用。未来,JStorm将支持Apache Beam,并努力成为一个强大的高级语言框架,使其更容易学习和调试,提供更大的吞吐量。

最后关于JStorm和Storm的区别,阿里的JStorm不仅仅是Storm的简单包装,更重要的是JStorm意味着一个流处理生态系统,一个企业级的Java Storm,并且比Storm更快、更稳定、特性也更多。

eb9732e3e1083f70d1fe5c6d71b944b951070db7

27f5ae8c6dcaff65372bafd4820fb60d8166c83e

bab74a8a17b0b51265f7bbe3579e074c09e6a02b

eb869cb2bf1c1b1341a014d5c26a152a036f9bd9

59d4cd568a9d348e369bf1590593778956d71ec3

832e9e70129877522a9ee7de18ee22126b9d086d

282a606667b6fea5506fe67d720dffe4505058ad

b87dff381ddbbf35a68012d708df360dddcb5c49

b47074b2fa83e51a2ad5a9324ae3a8312931c8ef

c381c0310d107cc457dd8249abb9cf57f157fac2

d9fd5028f4e98558cb3918400f64fcf59fcc43fa

2f9259b9e715baf2c742dded59dafe355ceb0b67

a0020a8712388973a956a4f16e56941c4eeaf35b


相关文章
|
存储 分布式计算 大数据
大数据处理平台的架构演进:从批处理到实时流处理
大数据处理平台的架构演进:从批处理到实时流处理
376 0
|
消息中间件 存储 大数据
实时流处理框架之Storm的安装与部署
实时流处理框架之Storm的安装与部署
273 0
实时流处理框架之Storm的安装与部署
|
数据采集 存储 大数据
阿里云StreamCompute流计算架构
阿里云流计算全流程系统架构,主要包含:数据采集,流数据,流计算,数据源,数据消费这些过程。
862 0
阿里云StreamCompute流计算架构
DataSimba系列之流式计算
市场变化越来越快,企业对于数据及时性的需求,也越来越大,另一方面,当下数据容量呈几何倍暴增,数据的价值在其产生之后,也将随着时间的流逝,逐渐降低。 因此,我们最好在事件发生之后,迅速对其进行有效处理,实时,快速地处理新产生的数据,帮助企业快速地进行异常管理和有效决策,而不是待数据存储在一起之后,再进行批量处理。
1629 0
|
分布式计算 并行计算 大数据
流式计算
从spark 说起,谈谈“流式”计算的理解 spark是一个大数据分布式的计算框架,有一些并行计算的基础会更容易理解分布式计算框架的概念。对比并行计算,谈三个概念: 并行计算 Map Reduce 算子 RDD数据结构 并行计算 spark的任务分为1个driver、多个executor。
1512 0