《大数据原理:复杂信息的准备、共享和分析》一一0.4 大数据最常见的目的是产生小数据

简介: 本节书摘来自华章出版社《大数据原理:复杂信息的准备、共享和分析》一 书中的第0章,第0.4节,作者:[美] 朱尔斯 J. 伯曼(Jules J. Berman)著 ,更多章节内容可以访问云栖社区“华章计算机”公众号查看。

0.4 大数据最常见的目的是产生小数据
如果我知道获得一切后是什么样子,我也许早前就愿意接收更少的东西。
―Lily Tomlin

假设你正在使用智能手机搜索意大利餐厅,只需几步,你的手机就会列出在你当前位置10个街道范围之内的意大利餐厅。在此过程中,被查询的数据库庞大且复杂:一个映射数据库收集了世界上的所有餐厅,餐厅的经纬度、地址和由顾客给出的评分会持续更新,但是数据库的输出是小数据,例如,在街景地图上标出来5个餐厅,以及这些餐厅的准确地址、电话号码和评分。你要做的只是从这5家餐厅中选择一家,并享受佳肴。
在此案例中,你的数据选择源自一个大型的数据集,但你最终的分析仅利用了一个小数据集(即满足搜索条件的5家餐厅)。大数据资源是为了提供小数据集。分析工作并非基于大数据资源―大数据资源仅仅用于搜索和检索,因此,大数据资源的真正工作是收集和组织复杂数据,以便资源能够为你的检索做好准备。在此过程中,数据创造者需要做很多决定,例如,酒吧是否应该列入餐厅范围之内?外卖是如何点餐的?应当收集什么数据?缺失数据应当如何处理?数据如何存储?
大数据很少全部用于分析,总有一个“剧烈”的过滤过程将大数据转换为小数据,这种方式适用于科学分析。澳大利亚平方公里阵射电望远镜7、全球望远镜、欧洲核子研究中心的大型强子对撞机和泛星计划望远镜每天产生PB级的数据(见术语表,Square Kilometer Array,Large Hadron Collider,Worldwide Telescope)。研究者从这些原始数据资源中提取出众多用于分析的小数据集8。
这里给出一个实例来展现如何从大数据资源中产生可用的数据子集。耀变体是罕见的超大质量黑洞,它会释放喷流能量,并出现超光速运动现象。宇宙论者希望尽可能多地了解这些奇怪的物体。学习耀变体的第一步是找到足够多的耀变体,之后,对所有收集到的耀变体进行多种形式的测量,并进行比较来确定它们的总体特征。耀变体有一个其他天体没有的伽马射线特征径迹。广角红外线探测望远镜(WISE)收集了整个可观测宇宙的红外数据。研究人员从WISE的数据中提取出了所有有可能是耀变体的天体―约有300个。此后对这300个物体的研究让研究人员相信大致有一半是耀变体9。上述是大数据如何起作用的一个典型案例―通过创建小数据集可以有效地进行分析。

相关实践学习
基于MaxCompute的热门话题分析
Apsara Clouder大数据专项技能认证配套课程:基于MaxCompute的热门话题分析
相关文章
|
2月前
|
存储 分布式计算 大数据
基于Python大数据的的电商用户行为分析系统
本系统基于Django、Scrapy与Hadoop技术,构建电商用户行为分析平台。通过爬取与处理海量用户数据,实现行为追踪、偏好分析与个性化推荐,助力企业提升营销精准度与用户体验,推动电商智能化发展。
|
3月前
|
机器学习/深度学习 传感器 分布式计算
数据才是真救命的:聊聊如何用大数据提升灾难预警的精准度
数据才是真救命的:聊聊如何用大数据提升灾难预警的精准度
300 14
|
3月前
|
存储 SQL 分布式计算
终于!大数据分析不用再“又要快又要省钱”二选一了!Dataphin新功能太香了!
Dataphin推出查询加速新功能,支持用StarRocks等引擎直连MaxCompute或Hadoop查原始数据,无需同步、秒级响应。数据只存一份,省成本、提效率,权限统一管理,打破“又要快又要省”的不可能三角,助力企业实现分析自由。
234 49
|
2月前
|
机器学习/深度学习 大数据 关系型数据库
基于python大数据的台风灾害分析及预测系统
针对台风灾害预警滞后、精度不足等问题,本研究基于Python与大数据技术,构建多源数据融合的台风预测系统。利用机器学习提升路径与强度预测准确率,结合Django框架实现动态可视化与实时预警,为防灾决策提供科学支持,显著提高应急响应效率,具有重要社会经济价值。
|
2月前
|
机器学习/深度学习 大数据 关系型数据库
基于python大数据的青少年网络使用情况分析及预测系统
本研究基于Python大数据技术,构建青少年网络行为分析系统,旨在破解现有防沉迷模式下用户画像模糊、预警滞后等难题。通过整合多平台亿级数据,运用机器学习实现精准行为预测与实时干预,推动数字治理向“数据驱动”转型,为家庭、学校及政府提供科学决策支持,助力青少年健康上网。
|
3月前
|
存储 SQL 分布式计算
MaxCompute 聚簇优化推荐原理
基于历史查询智能推荐Clustered表,显著降低计算成本,提升数仓性能。
283 4
MaxCompute 聚簇优化推荐原理
|
3月前
|
传感器 人工智能 监控
数据下田,庄稼不“瞎种”——聊聊大数据如何帮农业提效
数据下田,庄稼不“瞎种”——聊聊大数据如何帮农业提效
158 14
|
2月前
|
传感器 人工智能 监控
拔俗多模态跨尺度大数据AI分析平台:让复杂数据“开口说话”的智能引擎
在数字化时代,多模态跨尺度大数据AI分析平台应运而生,打破数据孤岛,融合图像、文本、视频等多源信息,贯通微观与宏观尺度,实现智能诊断、预测与决策,广泛应用于医疗、制造、金融等领域,推动AI从“看懂”到“会思考”的跃迁。
|
3月前
|
机器学习/深度学习 传感器 监控
吃得安心靠数据?聊聊用大数据盯紧咱们的餐桌安全
吃得安心靠数据?聊聊用大数据盯紧咱们的餐桌安全
156 1