《大数据原理:复杂信息的准备、共享和分析》一一2.1 背景

简介: 本节书摘来自华章出版社《大数据原理:复杂信息的准备、共享和分析》一 书中的第2章,第2.1节,作者:[美] 朱尔斯 J. 伯曼(Jules J. Berman)著 ,更多章节内容可以访问云栖社区“华章计算机”公众号查看。

2.1 背景
数据标识无疑是最被低估和最不被理解的大数据问题。数据测量、注释、特性和类信息本身是没有任何意义的,只有当一个整合了这些信息的标识符能够对众多数据对象加以区分时,它们才是有意义的(见术语表,Annotation)。识别方法、待识别对象和类的选择,从根本上来讲,与大数据资源的组织模型相关。如果忽视或不恰当地进行数据标识,大数据资源就会出现问题。
本章将深入描述数据标识的可用方法以及标识信息的最小属性(包括唯一性、排他性、完整性、真实性和协调性)。我们会对不充分的识别行为带来的可怕后果进行讨论,并给出现实案例。可以对已识别出的数据对象进行去标识操作,在某些情况下,也可进行重标识(见术语表,Deidentification,Reidentification)。当遇到保密、隐私和知识产权问题时,拥有去标识化数据对象的能力将极为重要(见术语表,Privacy and confidentiality,Intellectual property)。错误检测、误差修正和数据验证等过程,要求有对去标识化的数据对象重新进行标识的能力。
标识系统的核心是其良好的信息系统,它提供了一种数据对象命名方式,这样可以通过数据对象的名字和检索方式将每个对象与系统中的其他对象区分开来。如果数据管理员正确地标识他们的数据,他们不用做任何事,就会获得一个比许多现有的大数据资源更有价值数据对象的集合。想象这样一个场景:为了治病,你出现在你出生的医院接受治疗,并且看到了自你出生以来的各种疾病记录。有可能:
1.医院的医疗记录中有你的名字,但不是你。多次努力后,他们发现另一个医疗卡记录了你的名字。这再一次证实这条记录是别人的。耗费大量的时间和精力后,你被告知,医院不能调出你的医疗记录。他们否认失去你的记录,只承认他们无法从信息系统中检索记录。
2.医院的医疗记录中有你的名字,但不是你。你和你的医生都不知道身份信息的错误。医生在认为别人的医疗记录是你的医疗记录的前提下,给你提供了不当的治疗。由于这个错误,你死了,但医院信息系统却没有明显的损失。
3.医院有你的医疗记录。随着最近有关测试和程序的完成,你的医生发现记录丢失了大量信息。在过去,没有人能发现这些失踪的记录。你询问医生你的记录是否可能与另一个病人或多个病人的记录搞混了,医生只是耸了耸肩。
4.医院有你的医疗记录,但该记录包含其他患者做的各种检查。其他一些患者的医疗记录里也有你的名字,并显示名字不同。似乎没有人明白有关其他病人的这些记录是如何进入你的图表中的。
5.你被告知该院已改变了其医院信息系统,旧的电子记录将不再可用。你被要求回答关于你的一长串病史问题。你的回答将被添加到新病历中,但许多情况你已经忘记了。
6.你被告知你的电子记录被转移到一个大型医院的医院信息系统中。发生这种情况是一个复杂的收购兼并的结果。你正在接受治疗的医院尚未部署多医院系统的信息结构,对你的医疗记录没有访问权限。你放心,你的记录没有丢失,医院可在十年之内获得访问权限。
7.你到达医院时发现,曾经医院引以为傲的大厦已经拆除,被一个大型购物中心所取代。你的电子记录已经一去不复返了,值得安慰的是你知道JC Penney公司现在在搞六折的珠宝促销活动。
医院信息系统是典型的大数据资源。与大多数大数据资源一样,医疗记录必须是唯一的、可访问的、完整的、未受掺杂(与其他人的记录混淆)的、永久性的和保密的数据。而如果没有适当标识系统,这一切是不可能达到的。

相关实践学习
基于MaxCompute的热门话题分析
Apsara Clouder大数据专项技能认证配套课程:基于MaxCompute的热门话题分析
相关文章
|
6月前
|
存储 分布式计算 大数据
基于Python大数据的的电商用户行为分析系统
本系统基于Django、Scrapy与Hadoop技术,构建电商用户行为分析平台。通过爬取与处理海量用户数据,实现行为追踪、偏好分析与个性化推荐,助力企业提升营销精准度与用户体验,推动电商智能化发展。
|
7月前
|
数据可视化 搜索推荐 大数据
基于python大数据的北京旅游可视化及分析系统
本文深入探讨智慧旅游系统的背景、意义及研究现状,分析其在旅游业中的作用与发展潜力,介绍平台架构、技术创新、数据挖掘与服务优化等核心内容,并展示系统实现界面。
|
7月前
|
存储 SQL 分布式计算
终于!大数据分析不用再“又要快又要省钱”二选一了!Dataphin新功能太香了!
Dataphin推出查询加速新功能,支持用StarRocks等引擎直连MaxCompute或Hadoop查原始数据,无需同步、秒级响应。数据只存一份,省成本、提效率,权限统一管理,打破“又要快又要省”的不可能三角,助力企业实现分析自由。
353 49
|
6月前
|
机器学习/深度学习 大数据 关系型数据库
基于python大数据的台风灾害分析及预测系统
针对台风灾害预警滞后、精度不足等问题,本研究基于Python与大数据技术,构建多源数据融合的台风预测系统。利用机器学习提升路径与强度预测准确率,结合Django框架实现动态可视化与实时预警,为防灾决策提供科学支持,显著提高应急响应效率,具有重要社会经济价值。
|
6月前
|
机器学习/深度学习 大数据 关系型数据库
基于python大数据的青少年网络使用情况分析及预测系统
本研究基于Python大数据技术,构建青少年网络行为分析系统,旨在破解现有防沉迷模式下用户画像模糊、预警滞后等难题。通过整合多平台亿级数据,运用机器学习实现精准行为预测与实时干预,推动数字治理向“数据驱动”转型,为家庭、学校及政府提供科学决策支持,助力青少年健康上网。
|
7月前
|
存储 SQL 分布式计算
MaxCompute 聚簇优化推荐原理
基于历史查询智能推荐Clustered表,显著降低计算成本,提升数仓性能。
430 4
MaxCompute 聚簇优化推荐原理
|
7月前
|
数据采集 数据可视化 关系型数据库
基于python大数据的电影数据可视化分析系统
电影分析与可视化平台顺应电影产业数字化趋势,整合大数据处理、人工智能与Web技术,实现电影数据的采集、分析与可视化展示。平台支持票房、评分、观众行为等多维度分析,助力行业洞察与决策,同时提供互动界面,增强观众对电影文化的理解。技术上依托Python、MySQL、Flask、HTML等构建,融合数据采集与AI分析,提升电影行业的数据应用能力。
|
6月前
|
传感器 人工智能 监控
拔俗多模态跨尺度大数据AI分析平台:让复杂数据“开口说话”的智能引擎
在数字化时代,多模态跨尺度大数据AI分析平台应运而生,打破数据孤岛,融合图像、文本、视频等多源信息,贯通微观与宏观尺度,实现智能诊断、预测与决策,广泛应用于医疗、制造、金融等领域,推动AI从“看懂”到“会思考”的跃迁。
494 0
|
7月前
|
数据可视化 大数据 数据挖掘
基于python大数据的招聘数据可视化分析系统
本系统基于Python开发,整合多渠道招聘数据,利用数据分析与可视化技术,助力企业高效决策。核心功能包括数据采集、智能分析、可视化展示及权限管理,提升招聘效率与人才管理水平,推动人力资源管理数字化转型。