《大数据原理:复杂信息的准备、共享和分析》一一0.6 大数据成为信息宇宙的中心

本文涉及的产品
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
简介: 本节书摘来自华章出版社《大数据原理:复杂信息的准备、共享和分析》一 书中的第0章,第0.6节,作者:[美] 朱尔斯 J. 伯曼(Jules J. Berman)著 ,更多章节内容可以访问云栖社区“华章计算机”公众号查看。

0.6 大数据成为信息宇宙的中心
物理是宇宙的操作系统。
―Steven R. Garman

以前,科学家们一直遵循这条通向真理的路线:提出假说,进行实验;然后获取数据,分析数据,最后发表文章。科学家分析数据的行为是非常关键的,因为其他科学家无法获得同样的数据,也不能重现数据分析的过程。基本上,最终的手稿就是这个科学家的产出。因此,科学认识就建立在了信任的基础上。
在大数据的例子里,最终手稿的概念没有什么意义。大数据资源是永久性的,其中的数据是不可变的(见第6章)。任何科学家的分析结论都不会取代数据本身,其他科学家能够一次又一次地使用这些数据并重新进行分析。
在1976年9月3日那天,海盗2号探测器在火星着陆,并在接下来的3年7个月8天的时间里一直保持着运行状态。海盗2号在着陆不久后做了一个有趣的远程控制实验,天体生物学家使用火星土壤样本,进行了放射性标记的前体转化为复杂的碳基分子的研究,即所谓的标记释放性研究。在这项研究中,土壤的对照样本被加热到很高的温度(例如消毒),且同样暴露在放射性标记前体中,这样不会产生复杂的含碳分子。此后不久,初步的定论是我们为火星土壤中的微生物通过代谢的方式生成了碳基分子11。正如你所想的那样,这个结论立即受到了挑战,并且至今仍存在争议。
那么海盗2号的实验是如何与大数据产生联系的?自1976年以来,在首篇论文发表后的很长一段时间,科学家们能够获取来自标记释放性研究的数据,并进行重新分析。一些新的分析技术在这些数据上获得了应用,产生了新的结论,并已公开发表。随着火星任务的增加,产生了越来越多的数据(例如,水和甲烷的检测数据),同时也支持了火星上存在生物的结论。但没有数据可以作为确证,火星上的微生物也没有被分离出来。这里要指出的是,标记释放性数据是可被访问且永久性的,也是能够被重复研究的,能够与新数据比较或结合,当然也能不断遭受争议。
如今,大数据资源极有可能形成自成千上万的个体。资源中的数据或许会激发出几十个科学项目、上百个手稿、上千个分析结果或者百万个搜索和检索操作。大数据资源已经成为高校、研究实验室、公司和联邦机构圈所围绕的中心对象。他们从大数据资源中获取信息,然后利用这些信息进行分析研究并发表论文。由于大数据资源的永久性,因此在同一数据集上,任何分析都能够被检查,在未来任何时候也能够被重新分析。由于大数据资源在时间上既向前增长(例如,产生新信息),也向后增长(例如,吸收遗留数据),因此数据的价值也就随着持续增长。
大数据资源是现代信息宇宙中的恒星。物理宇宙中的所有物质都来自恒星中产生的重元素和轻元素。在信息宇宙中的所有数据是由简单数据形成的复杂数据。正如恒星能够耗尽自己的生命,爆炸,甚至在其自身重量下坍塌成为黑洞,大数据资源也可能因失去经费而枯竭,灰飞烟灭,甚至在其自身重量下因不堪重负而倾塌,最终化为暗黑的虚无。这是一个有趣的隐喻。后续章节将说明如何设计和操作大数据资源以确保其稳定、有用、生长和永恒。而那些你所期盼的从一个巨大物体中发现的特征也许就位于信息宇宙的中心。

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
2月前
|
存储 机器学习/深度学习 SQL
大数据处理与分析技术
大数据处理与分析技术
163 2
|
20天前
|
机器学习/深度学习 数据可视化 大数据
机器学习与大数据分析的结合:智能决策的新引擎
机器学习与大数据分析的结合:智能决策的新引擎
110 15
|
26天前
|
SQL 分布式计算 DataWorks
DataWorks产品测评|基于DataWorks和MaxCompute产品组合实现用户画像分析
本文介绍了如何使用DataWorks和MaxCompute产品组合实现用户画像分析。首先,通过阿里云官网开通DataWorks服务并创建资源组,接着创建MaxCompute项目和数据源。随后,利用DataWorks的数据集成和数据开发模块,将业务数据同步至MaxCompute,并通过ODPS SQL完成用户画像的数据加工,最终将结果写入`ads_user_info_1d`表。文章详细记录了每一步的操作过程,包括任务开发、运行、运维操作和资源释放,帮助读者顺利完成用户画像分析。此外,还指出了文档中的一些不一致之处,并提供了相应的解决方法。
|
25天前
|
分布式计算 DataWorks 搜索推荐
用户画像分析(MaxCompute简化版)
通过本教程,您可以了解如何使用DataWorks和MaxCompute产品组合进行数仓开发与分析,并通过案例体验DataWorks数据集成、数据开发和运维中心模块的相关能力。
|
2月前
|
机器学习/深度学习 存储 大数据
在大数据时代,高维数据处理成为难题,主成分分析(PCA)作为一种有效的数据降维技术,通过线性变换将数据投影到新的坐标系
在大数据时代,高维数据处理成为难题,主成分分析(PCA)作为一种有效的数据降维技术,通过线性变换将数据投影到新的坐标系,保留最大方差信息,实现数据压缩、去噪及可视化。本文详解PCA原理、步骤及其Python实现,探讨其在图像压缩、特征提取等领域的应用,并指出使用时的注意事项,旨在帮助读者掌握这一强大工具。
107 4
|
2月前
|
关系型数据库 分布式数据库 数据库
PolarDB 以其出色的性能和可扩展性,成为大数据分析的重要工具
在数字化时代,企业面对海量数据的挑战,PolarDB 以其出色的性能和可扩展性,成为大数据分析的重要工具。它不仅支持高速数据读写,还通过数据分区、索引优化等策略提升分析效率,适用于电商、金融等多个行业,助力企业精准决策。
41 4
|
2月前
|
机器学习/深度学习 分布式计算 算法
【大数据分析&机器学习】分布式机器学习
本文主要介绍分布式机器学习基础知识,并介绍主流的分布式机器学习框架,结合实例介绍一些机器学习算法。
273 5
|
2月前
|
存储 监控 数据挖掘
【Clikhouse 探秘】ClickHouse 物化视图:加速大数据分析的新利器
ClickHouse 的物化视图是一种特殊表,通过预先计算并存储查询结果,显著提高查询性能,减少资源消耗,适用于实时报表、日志分析、用户行为分析、金融数据分析和物联网数据分析等场景。物化视图的创建、数据插入、更新和一致性保证通过事务机制实现。
260 14
|
2月前
|
存储 机器学习/深度学习 大数据
量子计算与大数据:处理海量信息的新方法
量子计算作为革命性的计算范式,凭借量子比特和量子门的独特优势,展现出在大数据处理中的巨大潜力。本文探讨了量子计算的基本原理、在大数据处理中的应用及面临的挑战与前景,展望了其在金融、医疗和物流等领域的广泛应用。
|
2月前
|
消息中间件 分布式计算 大数据
数据为王:大数据处理与分析技术在企业决策中的力量
【10月更文挑战第29天】在信息爆炸的时代,大数据处理与分析技术为企业提供了前所未有的洞察力和决策支持。本文探讨了大数据技术在企业决策中的重要性和实际应用,包括数据的力量、实时分析、数据驱动的决策以及数据安全与隐私保护。通过这些技术,企业能够从海量数据中提取有价值的信息,预测市场趋势,优化业务流程,从而在竞争中占据优势。
178 2