主成分分析方法在主成分分析方法中的应用_精品文档Word下载.docx
- 文档编号:14435207
- 上传时间:2022-10-22
- 格式:DOCX
- 页数:17
- 大小:651.46KB
主成分分析方法在主成分分析方法中的应用_精品文档Word下载.docx
《主成分分析方法在主成分分析方法中的应用_精品文档Word下载.docx》由会员分享,可在线阅读,更多相关《主成分分析方法在主成分分析方法中的应用_精品文档Word下载.docx(17页珍藏版)》请在冰豆网上搜索。
注意得到的主成分不是原始变量筛选后的剩余变量,而是原始变量经过重新组合后的“综合变量”。
我们以最简单的二维数据来直观的解释主成分分析的原理。
假设现在有两个变量X1、X2,在坐标上画出散点图如下:
可见,他们之间存在相关关系,如果我们将坐标轴整体逆时针旋转45°
,变成新的坐标系Y1、Y2,如下图:
根据坐标变化的原理,我们可以算出:
Y1=sqrt
(2)/2*X1+sqrt
(2)/2*X2
Y2=sqrt
(2)/2*X1-sqrt
(2)/2*X2
其中sqrt(x)为x的平方根。
通过对X1、X2的重新进行线性组合,得到了两个新的变量Y1、Y2。
此时,Y1、Y2变得不再相关,而且Y1方向变异(方差)较大,Y2方向的变异(方差)较小,这时我们可以提取Y1作为X1、X2的主成分,参与后续的统计分析,因为它携带了原始变量的大部分信息。
至此我们解决了两个问题:
降维和消除共线性。
对于二维以上的数据,就不能用上面的几何图形直观的表示了,只能通过矩阵变换求解,但是本质思想是一样的。
二、因子分析
(一)原理和方法:
因子分析是主成分分析的扩展。
在主成分分析过程中,新变量是原始变量的线性组合,即将多个原始变量经过线性(坐标)变换得到新的变量。
因子分析中,是对原始变量间的内在相关结构进行分组,相关性强的分在一组,组间相关性较弱,这样各组变量代表一个基本要素(公共因子)。
通过原始变量之间的复杂关系对原始变量进行分解,得到公共因子和特殊因子。
将原始变量表示成公共因子的线性组合。
其中公共因子是所有原始变量中所共同具有的特征,而特殊因子则是原始变量所特有的部分。
因子分析强调对新变量(因子)的实际意义的解释。
举个例子:
比如在市场调查中我们收集了食品的五项指标(x1-x5):
味道、价格、风味、是否快餐、能量,经过因子分析,我们发现了:
x1=0.02*z1+0.99*z2+e1
x2=0.94*z1-0.01*z2+e2
x3=0.13*z1+0.98*z2+e3
x4=0.84*z1+0.42*z2+e4
x5=0.97*z1-0.02*z2+e1
(以上的数字代表实际为变量间的相关系数,值越大,相关性越大)
第一个公因子z1主要与价格、是否快餐、能量有关,代表“价格与营养”
第二个公因子z2主要与味道、风味有关,代表“口味”
e1-5是特殊因子,是公因子中无法解释的,在分析中一般略去。
同时,我们也可以将公因子z1、z2表示成原始变量的线性组合,用于后续分析。
(二)使用条件:
(1)样本量足够大。
通常要求样本量是变量数目的5倍以上,且大于100例。
(2)原始变量之间具有相关性。
如果变量之间彼此独立,无法使用因子分析。
在SPSS中可用KMO检验和Bartlett球形检验来判断。
(3)生成的公因子要有实际的意义,必要时可通过因子旋转(坐标变化)来达到。
三、主成分分析和因子分析的联系与区别
联系:
两者都是降维和信息浓缩的方法。
生成的新变量均代表了原始变量的大部分信息且互相独立,都可以用于后续的回归分析、判别分析、聚类分析等等。
区别:
(1)主成分分析是按照方差最大化的方法生成的新变量,强调新变量贡献了多大比例的方差,不关心新变量是否有明确的实际意义。
(2)因子分析着重要求新变量具有实际的意义,能解释原始变量间的内在结构。
下一篇文章,将介绍主成分分析和因子分析的在SPSS中的实现。
主成分分析与因子分析及SPSS实现
(二):
实例讨论
(2014-09-1306:
34:
09)
标签:
spss
教育
统计
因子分析
分类:
SPSS
SPSS没有提供单独的主成分分析方法,而是混在因子分析当中,下面通过一个例子来讨论主成分分析与因子分析的实现方法及相关问题。
一、问题提出
男子十项全能比赛包含100米跑、跳远、跳高、撑杆跳、铅球、铁饼、标枪、400米跑、1500米跑、110米跨栏十个项目,总分为各个项目得分之和。
为了分析十项全能主要考察哪些方面的能力,以便有针对性的进行训练,研究者收集了134个顶级运动员的十项全能成绩单,将通过因子分析来达到分析目的。
二、分析过程
变量视图:
数据视图(部分):
菜单选择(分析->
降维->
因子分析):
打开因子分析的主界面,将十项成绩选入”变量“框中(不要包含总分),如下:
点击”描述“按钮,打开对话框,选中”系数“和”KMO和Bartlett球形度检验“:
上图相关解释:
”系数“:
为变量之间的相关系数阵列,可以直观的分析相关性。
”KMO和Bartlett球形度检验“:
用于定量的检验变量之间是否具有相关性。
点击”继续“,回到主界面,点击”抽取“,打开对话框。
”方法“=>
”主成分“,”输出“=>
”未旋转的因子解“和”碎石图“,”抽取“=>
”基于特征值“,其余选择默认。
解释:
①因子抽取的方法:
选取默认的主成分法即可,其余方法的计算结果可能有所差异。
②输出:
”未旋转的因子解”极为主成分分析结果。
碎石图有助于我们判断因子的重要性(详细介绍见后面)。
③抽取:
为抽取主成分(因子)的方法,一般是基于特征值大于1,默认即可。
点击”继续“,回到主界面,点击”确定“,进入分析。
输出的主要表格如下:
(1)相关性检验
因子分析要求变量之间有相关性,所以首先要进行相关性检验。
首先输出的是变量之间的相关系数矩阵:
可以直观的看到,变量之间有相关性。
但需要检验,接着输出的是相关性检验:
上图有两个指标:
第一个是KMO值,一般大于0.7就说明不了之间有相关性了。
第二个是Bartlett球形度检验,P值<
0.001。
综合两个指标,说明变量之间存在相关性,可以进行因子分析。
否则,不能进行因子分析。
(2)提取主成分和公因子
接下来输出主成分结果:
这就是主成分分析的结果,表中第一列为10个成分;
第二列为对应的”特征值“,表示所解释的方差的大小;
第三列为对应的成分所包含的方差占总方差的百分比;
第四列为累计的百分比。
一般来说,选择”特征值“大于1的成分作为主成分,这也是SPSS默认的选择。
在本例中,成分1和2的特征值大于1,他们合计能解释71.034%的方差,还算不错。
所以我们可以提取1和2作为主成分,抓住了主要矛盾,其余成分包含的信息较少,故弃去。
下面,输出碎石图,如下:
碎石图来源于地质学的概念。
在岩层斜坡下方往往有很多小的碎石,其地质学意义不大。
碎石图以特征值为纵轴,成分为横轴。
前面陡峭的部分特征值大,包含的信息多,后面平坦的部分特征值小,包含的信息也小。
由图直观的看出,成分1和2包含了大部分信息,从3开始就进入平台了。
接下来,输出提取的成分矩阵:
上表中的数值为公因子与原始变量之间的相关系数,绝对值越大,说明关系越密切。
公因子1和9个运动项目都正相关(注意跑步运动运动的计分方式,时间越短,分数越高),看来只能称为“综合运动”因子了。
公因子2与铁饼、铅球正相关,与1500米跑、400米跑负相关,这究竟代表什么意思呢?
看来只能成为“不知所云”因子了。
(三)因子旋转
前面提取的两个公因子一个是大而全的“综合因子”,一个不知所云,得到这样的结果,无疑是分析的失败。
不过,不要灰心,我们可以通过因子的旋转来获得更好的解释。
在主界面中点击“旋转”按钮,打开对话框,“方法”=>
“最大方差法”,“输出”=>
“旋转解”。
点击“继续”,回到主界面点击“确认”进行分析。
输出结果如下:
这是选择后的成分矩阵。
经过旋转,可以看出:
公因子1得分越高,所有的跑步和跨栏成绩越差,而跳远、撑杆跳等需要助跑类项目的成绩也越差,所以公因子1代表的是奔跑能力的反向指标,可称为“奔跑能力”。
公因子2与铁饼和铅球的正相关性很高,与标枪、撑杆跳等需要上肢力量的项目也正相关,所以该因子可以成为“上肢力量”。
经过旋转,可以看出公因子有了更合理的解释。
(四)结果的保存
在最后,我们还要将公因子储存下来供后续使用。
点击“得分”按钮,打开对话框,选中“保存为变量”,方法采用默认的“回归”方法,同时选中“显示因子得分系数矩阵”。
SPSS会自动生成2个新变量,分别为公因子的取值,放在数据的最后。
同时会输出一个因子系数表格:
由上图,我们可以写出公因子的表达式(用F1、F2代表两个公因子,Z1~Z10分别代表原始变量):
F1=-0.16*Z1+0.161*Z2+0.145*Z3+0.199*Z4-0.131*Z5-0.167*Z6+0.137*Z7+0.174*Z8+0.131*Z9-0.037*Z10
F2同理,略去。
注意,这里的变量Z1~Z10,F1、F2不再是原始变量,而是标准正态变换后的变量。
当前位置:
一起大数据
>
自学中心
软件
SPSS
正文
SPSS主成分分析与因子分析之比较及实证分析
·
xsmile发布于2015-07-20
分类:
/
数据分析
阅读(399)
评论
(1)
来自
一、问题的提出
在科学研究或日常生活中,常常需要判断某一事物在同类事物中的好坏、优劣程度及其发展规律等问题。
而影响事物的特征及其发展规律的因素(指标)是多方面的,因此,在对该事物进行研究时,为了能更全面、准确地反映出它的特征及其发展规律,就不应仅从单个指标或单方面去评价它,而应考虑到与其有关的多方面的因素,即研究中需要引入更多的与该事物有关系的变量,来对其进行综合分析和评价。
多变量大样本资料无疑能给研究人员或决策者提供很多有价值的信息,但在分析处理多变量问题时,由于众变量之间往往存在一定的相关性,使得观测数据所反映的信息存在重叠现象。
因此为了尽量避免信息重叠和减轻工作量,人们就往往希望能找出少数几个互不相关的综合变量来尽可能地反映原来数据所含有的绝大部分信息。
而主成分分析和因子分析正是为解决此类问题而产生的多元统计分析方法。
近年来,这两种方法在社会经济问题研究中的应用越来越多,其应用范围也愈加广泛。
因子分析是主成分分析的推广和发展,二者之间就势必有着许多共同之处,而SPSS软件不能直接进行主成分分析,致使一
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 成分 分析 方法 中的 应用 精品 文档