使用大数据闪存打造融合数据平台

简介:

随着企业、服务提供商和超大型数据中心从描述性分析向预测性和规范性分析演进,结合了融合运营和分析数据管道的融合数据平台变得日益重要。大数据闪存可让数据处理平台快速访问历史数据和实时数据流,从而以较低成本创建有效的预测模型。

随着大数据从描述性分析(批量)向预测性(交互)和规范性(实时)分析演进,企业正在越来越多地使用串流数据源和历史批量数据,以提高机器的学习能力并建立预测模型。简而言之,描述性分析是为了了解事态,预测性分析是为了建立一个假设场景模型,而规范性分析是为了通过采取数据驱动型行动来影响结果。新型分析应用能够在交易发生时实时捕获它,并能影响其结果,从而带来直接的商业效益。这方面的用例包括:
反洗钱欺诈分析定向营销工业互联网(IoT/IoE)实时生产制造医疗领域的患者数据情报SanDisk闪迪利用新型分析应用对半导体制造数据进行实时分析。从Lambda架构到SMACK

Lambda架构因其融合实时分析和批量分析的能力而深受喜爱。Lambda架构使用HDFS、Scalding和HBASE作为融合实时分析和批量数据管道的构建模块。但是,该架构带来的多管道复制代码和数据的开销,使得其难以大规模部署。

为了克服Lambda架构的局限性,必需配备一个能够有效处理批量和实时串流的大数据管道。全新的SMACK堆栈——Scala及其Spark、Mesos、Akka、Cassandra和Kafka生态系统便旨在实现这一点。SMACK串流已成为一个用于处理批量和串流数据的有效大型平台。

Meosphere的Infinity堆栈或MapR新近发布的Converged Data Platform等解决方案都是Lambda架构的实例。

配备SMACK(Spark、Mesos、Akka、Cassandra和Kafka)堆栈的串流架构

以下是SMARK堆栈的简要介绍:
Spark:一个快速、通用的分布式大型数据处理引擎。Mesos:一个集群资源管理系统,在各个分布式应用之间提供高效的资源隔离和共享功能。Akka:一个工具包和运行环境,用于在JVM上创建高并发、分布式、弹性消息驱动型应用。Cassandra:一个分布式、高度可用的数据库,旨在处理多个数据中心的大量数据。Kafka:一个高吞吐量、低时延的分布式消息系统,旨在处理实时数据流。面向融合数据平台的大数据闪存

为了创建有效的预测模型,融合堆栈系统需要快速访问历史数据和实时数据流。基于闪存的数据网格可为这些新的数据驱动型架构带来巨大效益。

2015年3月,SanDisk闪迪设立了 “大数据闪存”市场类别,推出了InfiniFlash系统,它拥有极高的容量以及卓越的性能和经济性(源于低成本晶圆和全新的闪存尺寸规格)。

事实上,InfiniFlash系统之所以能成为融合数据平台架构的构建模块,其架构和性能起着至关重要的作用:
数据捕获每秒可捕获数百万个事件,且无事件丢失更快的批量摄取便于扩展使用Avro或Protobuf格式存储数据,无需ETL(提取、转换、加载)过程通过支持Kafka等分布式消息系统消除负载数据处理能够有效处理实时事件和批量数据输入存储处理,以秒和亚秒级实现时延交付数据存储面向数据密集型工作负载的软件定义数据构造,提供敏捷性和可扩展性可长时间存储数个TB的数据支持高吞吐量的批量数据存储,且满足低时延实时查询可处理分离的数据源和“突发性”工作负载采用无模式方式存储数据支持HDFS和NoSQL数据库(如Cassandra、CouchDB、MemSQL、HBase等)可借助Rackscale架构扩展至PB级极低的年故障率(AFR)可使用解聚/共享存储提供企业就绪度、沿袭(审计日志)、合规(依法保留等)和版本控制(维护不同的时间点副本)专为来自HDFS/S3的故障、备份和补丁而设计最为经济高效,低于/GB[1]数据查询支持亚秒级时延的实时查询支持批量/聚集查询支持针对HDFS和NoSQL的查询

使用InfiniFlash“大数据闪存”打造数据密集型融合数据平台的三大原因

无论您是企业还是服务提供商,以下是您应该考虑使用InfiniFlash打造融合数据平台的三大原因:

  1. 满足捕获、处理、存储和查询数据管道的所有要求

传统的直接附加型存储解决方案和纯HDD解决方案无法提供融合数据平台所需的大规模性能和吞吐量。此外,它们也不具备可扩展性所带来的资本支出和运营支出效益,也不具备这些平台所要求的敏捷性和企业就绪程度。

与传统硬盘相比,InfiniFlash系统的性能是它们的50倍,密度是它们的5倍,可靠性是它们的4倍,而且便于向上和向外扩展,以满足大数据应用的苛刻要求[2]。基于闪存的软件定义数据构造可让用户根据需要灵活选用多种文件系统,其中包括HDFS、Spectrum Scale、Lustre和Ceph。

  1. 全球支持

InfiniFlash在全球各地得到了SanDisk闪迪及其合作伙伴的支持。InfiniFlash是TSA Net Support Community的一部分,可确保满足严格的SLA协议要求。与此同时,我们的FlashStart 功能可确保其安装顺利,并提供卓越的客户体验。

  1. 同类最佳的生态系统

SanDisk闪迪与众多业内领先的软件开发者和硬件合作伙伴开展合作,通过同类最佳的生态系统获得更多的选择和灵活性。我们的合作伙伴包括: RedhatCeph、Nexenta、ICloudbyte以及思科、联想、戴尔、Supermicro、Quanta等厂商。同时,我们也正与开源社区开展密切合作,并通过我们的各项事业成为贡献者和思想领袖。(欲了解SanDisk闪迪对于开源SCST企业级特性所做出的贡献,请点击此处。)

结语

搭建融合数据平台是为了满足融合运营和分析管道的要求,以及随后的捕获、处理、存储和查询阶段的存储要求,一个基于大数据闪存的数据构造是融合平台理想的存储层构建模块,可让数据管道的每个阶段都受益。

本文转自d1net(转载)

相关实践学习
基于MaxCompute的热门话题分析
Apsara Clouder大数据专项技能认证配套课程:基于MaxCompute的热门话题分析
相关文章
|
3月前
|
SQL 人工智能 分布式计算
ODPS十五周年实录|构建 AI 时代的大数据基础设施
本文根据 ODPS 十五周年·年度升级发布实录整理而成,演讲信息如下: 张治国:阿里云智能集团技术研究员、阿里云智能计算平台事业部 ODPS-MaxCompute 负责人 活动:【数据进化·AI 启航】ODPS 年度升级发布
193 9
|
5月前
|
存储 分布式计算 大数据
【赵渝强老师】阿里云大数据存储计算服务:MaxCompute
阿里云MaxCompute是快速、全托管的TB/PB级数据仓库解决方案,提供海量数据存储与计算服务。支持多种计算模型,适用于大规模离线数据分析,具备高安全性、低成本、易用性强等特点,助力企业高效处理大数据。
277 0
|
3月前
|
SQL 存储 分布式计算
【万字长文,建议收藏】《高性能ODPS SQL章法》——用古人智慧驾驭大数据战场
本文旨在帮助非专业数据研发但是有高频ODPS使用需求的同学们(如数分、算法、产品等)能够快速上手ODPS查询优化,实现高性能查数看数,避免日常工作中因SQL任务卡壳、失败等情况造成的工作产出delay甚至集群资源稳定性问题。
1099 36
【万字长文,建议收藏】《高性能ODPS SQL章法》——用古人智慧驾驭大数据战场
|
3月前
|
存储 分布式计算 资源调度
【赵渝强老师】阿里云大数据MaxCompute的体系架构
阿里云MaxCompute是快速、全托管的EB级数据仓库解决方案,适用于离线计算场景。它由计算与存储层、逻辑层、接入层和客户端四部分组成,支持多种计算任务的统一调度与管理。
330 1
|
7月前
|
SQL 分布式计算 大数据
大数据新视界 --大数据大厂之Hive与大数据融合:构建强大数据仓库实战指南
本文深入介绍 Hive 与大数据融合构建强大数据仓库的实战指南。涵盖 Hive 简介、优势、安装配置、数据处理、性能优化及安全管理等内容,并通过互联网广告和物流行业案例分析,展示其实际应用。具有专业性、可操作性和参考价值。
大数据新视界 --大数据大厂之Hive与大数据融合:构建强大数据仓库实战指南
|
6月前
|
存储 缓存 分布式计算
OSS大数据分析集成:MaxCompute直读OSS外部表优化查询性能(减少数据迁移的ETL成本)
MaxCompute直读OSS外部表优化方案,解决传统ETL架构中数据同步延迟高、传输成本大、维护复杂等问题。通过存储格式优化(ORC/Parquet)、分区剪枝、谓词下推与元数据缓存等技术,显著提升查询性能并降低成本。结合冷热数据分层与并发控制策略,实现高效数据分析。
170 2
|
6月前
|
人工智能 分布式计算 大数据
构建AI时代的大数据基础设施-MaxCompute多模态数据处理最佳实践
本文介绍了大数据与AI一体化架构的演进及其实现方法,重点探讨了Data+AI开发全生命周期的关键步骤。文章分析了大模型开发中的典型挑战,如数据管理混乱、开发效率低下和运维管理困难,并提出了解决方案。同时,详细描述了MaxCompute在构建AI时代数据基础设施中的作用,包括其强大的计算能力、调度能力和易用性特点。此外,还展示了MaxCompute在多模态数据处理中的应用实践以及具体客户案例,最后提供了体验MaxFrame解决方案的方式。
763 2
|
5月前
|
人工智能 分布式计算 大数据
探索 ODPS:大数据时代的得力助手
在大数据蓬勃发展、 AI 技术席卷各行业的当下,阿里云 ODPS 作为大数据平台体系,凭借其强大的功能和广泛的应用,为众多从业者和企业带来了深远的影响。我有幸深入使用 ODPS,从中收获颇丰。
144 0
|
11月前
|
人工智能 分布式计算 大数据
MaxFrame 产品评测:大数据与AI融合的Python分布式计算框架
MaxFrame是阿里云MaxCompute推出的自研Python分布式计算框架,支持大规模数据处理与AI应用。它提供类似Pandas的API,简化开发流程,并兼容多种机器学习库,加速模型训练前的数据准备。MaxFrame融合大数据和AI,提升效率、促进协作、增强创新能力。尽管初次配置稍显复杂,但其强大的功能集、性能优化及开放性使其成为现代企业与研究机构的理想选择。未来有望进一步简化使用门槛并加强社区建设。
514 8
|
9月前
|
存储 分布式计算 运维
课时6:阿里云MaxCompute:轻松玩转大数据
阿里云MaxCompute是全新的大数据计算服务,提供快速、完全托管的PB级数据仓库解决方案。它拥有高效的压缩存储技术、强大的计算能力和丰富的用户接口,支持SQL查询、机器学习等高级分析。MaxCompute兼容多种计算模型,开箱即用,具备金融级安全性和灵活的数据授权功能,帮助企业节省成本并提升效率。
320 0