《大数据分析原理与实践》一一3.3 相关分析

简介: 本节书摘来自华章出版社《大数据分析原理与实践》一 书中的第3章,第3.3节,作者:王宏志 ,更多章节内容可以访问云栖社区“华章计算机”公众号查看。

3.3 相关分析
相关关系是一种非确定性的关系,例如,以X和Y分别表示一个人的身高和体重,或分别表示每公顷施肥量与每公顷小麦产量,则X与Y显然有关系,而又没有确切到可由其中的一个去精确地决定另一个的程度,这就是相关关系。在一些问题中,不仅经常需要考察两个变量之间的相关程度,而且还经常需要考察多个变量与多个变量之间即两组变量之间的相关关系。典型相关分析就是研究两组变量之间相关程度的一种多元统计分析方法。
典型相关分析是研究两组变量之间相关关系的一种统计分析方法。为了研究两组变量X1,X2,…,Xp和Y1,Y2,…,Yq之间的相关关系,采用类似于主成分分析(将在9.2节中介绍)的方法,在两组变量中,分别选取若干有代表性的变量组成有代表性的综合指数,通过研究这两组变量之间的相关关系,来代替这两组变量之间的相关关系,这些综合指数称为典型变量。
其基本思想是,首先在每组变量中找到变量的线性组合,使得两组线性组合之间具有最大的相关系数。然后选取和最初挑选的这对线性组合不相关的线性组合,使其配对,并选取相关系数最大的一对,如此继续下去,直到两组变量之间的相关性被提取完毕为止。被选取的线性组合配对称为典型变量,它们的相关系数称为典型相关系数。典型相关系数度量了这两组变量之间联系的强度。image

我们用一个例子说明相关分析。为了研究家庭特征与家庭消费之间的关系,调查了70个家庭的下面两组变量之间的关系,见表3-6~表3-10。
x1:每年去餐馆就餐的频率,x2:每年外出看电影的频率。
y1:户主的年龄,y2:家庭的年收入,y3:户主受教育程度。
U1=0.7689x1+0.2721x2 V1=0.0491y1+0.8975y2+0.1900y3
U2=-1.4787x1+1.6443x2 V2=1.0003y1-0.5837y2+0.2956y3
两个反映消费的指标与第一对典型变量中U1的相关系数分别为0.9866和0.8872,可以看出U1可以作为消费特性的指标,第一对典型变量中V1与y2之间的相关系数为0.9822,可见典型变量V1主要代表了家庭收入,U1和V1的相关系数为0.6879,这就说明家庭的消费与一个家庭的收入之间关系是很密切的;第二对典型变量中U2和x2的相关系数为0.4614,可以看出U2可以作为文化消费特性的指标,第二对典型变量中V2与y1和y3之间的相关系数分别为0.8464和0.3013,可见典型变量V2主要代表了家庭成员的年龄特征和教育程度,U2和V2的相关系数是0.1869,说明文化程度与年龄和受教育程度之间的相关性。image

基于阿里云的相关分析
下面我们用一个例子来说明如何基于阿里云平台进行相关分析。
Center for World University Rankings组织对全世界大部分大学进行了排名,其排名根据教育质量、教师质量、毕业生就业情况、出版刊物数量等一系列指标进行评分。我们获取该数据集并对其中的特征进行相关分析,从而了解每个特征之间的关系。前10条数据以及部分特征如表3-10所示。
image

我们想要计算出数值型特征之间的相关关系,首先进行数据导入。新建项目,自定义表名cwurdata,在“添加字段页面”添加相应的字段及字段类型(一旦表建成,字段名及字段类型不可变。此后的字段信息设置均参考此处),如图3-17所示。
建表成功后,在阿里云大数据开发平台“数据开发”层级下,单击“更多功能”按钮, 选择“导入本地数据”(注意:本地数据中字段值内不能含有分隔符,阿里云平台无法智能识别)如图3-18所示。
image

图3-17 添加字段及字段类型
image

图3-18 本地数据导入
若本地数据文件中的字段与表中字段不匹配,需手动进行字段匹配,如图3-19所示。
最后提示导入成功。
其分析组件布局如图3-20所示。其中,在相关系数矩阵组件中选择想要进行相关系数计算的列。设置完毕后,运行组件。运行成功后,在相关系数矩阵组件上右击,选择“查看数据”得到相关系数矩阵,如图3-21所示。
从结果数据可以看出,学校得分与教师质量最为相关,教育质量与教师质量最为相关,毕业生就业情况与教育质量最为相关,影响力与出版刊物数量最为相关。
image

图3-19 字段匹配
image
image

图3-21 相关系数矩阵

相关文章
|
2月前
|
存储 分布式计算 大数据
基于Python大数据的的电商用户行为分析系统
本系统基于Django、Scrapy与Hadoop技术,构建电商用户行为分析平台。通过爬取与处理海量用户数据,实现行为追踪、偏好分析与个性化推荐,助力企业提升营销精准度与用户体验,推动电商智能化发展。
|
3月前
|
数据可视化 搜索推荐 大数据
基于python大数据的北京旅游可视化及分析系统
本文深入探讨智慧旅游系统的背景、意义及研究现状,分析其在旅游业中的作用与发展潜力,介绍平台架构、技术创新、数据挖掘与服务优化等核心内容,并展示系统实现界面。
|
4月前
|
数据采集 人工智能 分布式计算
ODPS在AI时代的发展战略与技术演进分析报告
ODPS(现MaxCompute)历经十五年发展,从分布式计算平台演进为AI时代的数据基础设施,以超大规模处理、多模态融合与Data+AI协同为核心竞争力,支撑大模型训练与实时分析等前沿场景,助力企业实现数据驱动与智能化转型。
403 4
|
4月前
|
JSON 大数据 API
巧用苏宁易购 API,精准分析苏宁易购家电销售大数据
在数据驱动的电商时代,精准分析销售数据能助力企业优化库存、提升营销效果。本文详解如何利用苏宁易购API获取家电销售数据,结合Python进行数据清洗与统计分析,实现销量预测与洞察提取,帮助企业降本增效。
116 0
|
5月前
|
消息中间件 NoSQL 数据可视化
数据说了算,可你得“听得快”——聊聊大数据里的实时分析
数据说了算,可你得“听得快”——聊聊大数据里的实时分析
150 2
|
3月前
|
存储 SQL 分布式计算
终于!大数据分析不用再“又要快又要省钱”二选一了!Dataphin新功能太香了!
Dataphin推出查询加速新功能,支持用StarRocks等引擎直连MaxCompute或Hadoop查原始数据,无需同步、秒级响应。数据只存一份,省成本、提效率,权限统一管理,打破“又要快又要省”的不可能三角,助力企业实现分析自由。
231 49
|
2月前
|
机器学习/深度学习 大数据 关系型数据库
基于python大数据的台风灾害分析及预测系统
针对台风灾害预警滞后、精度不足等问题,本研究基于Python与大数据技术,构建多源数据融合的台风预测系统。利用机器学习提升路径与强度预测准确率,结合Django框架实现动态可视化与实时预警,为防灾决策提供科学支持,显著提高应急响应效率,具有重要社会经济价值。
|
2月前
|
机器学习/深度学习 大数据 关系型数据库
基于python大数据的青少年网络使用情况分析及预测系统
本研究基于Python大数据技术,构建青少年网络行为分析系统,旨在破解现有防沉迷模式下用户画像模糊、预警滞后等难题。通过整合多平台亿级数据,运用机器学习实现精准行为预测与实时干预,推动数字治理向“数据驱动”转型,为家庭、学校及政府提供科学决策支持,助力青少年健康上网。
|
3月前
|
数据采集 数据可视化 关系型数据库
基于python大数据的电影数据可视化分析系统
电影分析与可视化平台顺应电影产业数字化趋势,整合大数据处理、人工智能与Web技术,实现电影数据的采集、分析与可视化展示。平台支持票房、评分、观众行为等多维度分析,助力行业洞察与决策,同时提供互动界面,增强观众对电影文化的理解。技术上依托Python、MySQL、Flask、HTML等构建,融合数据采集与AI分析,提升电影行业的数据应用能力。