主主 成成 分分 分分 析析与与 因因 子子 分分 析析 Principal Components Analysis&Factor Analysis第二军医大学卫生统计学教研室第二军医大学卫生统计学教研室 张罗漫张罗漫第第20章章9/22/20221医学统计学讲课内容：讲课内容：第一节第一节 主成分分析主成分分析第二节第二节 因子分析因子分析9/22/20222医学统计学第一节第一节 主成分分析主成分分析Principal Components Analysis9/22/20223医学统计学一、基本思想一、基本思想数据的降维、数据的解释数据的降维、数据的解释 将原来众多具有一定相关性的指标，组将原来众多具有一定相关性的指标，组 合成一组新的合成一组新的相互无关的综合指标。相互无关的综合指标。从中选取几个较少的综合指标尽可能多从中选取几个较少的综合指标尽可能多 的反映原来众多指标的信息。的反映原来众多指标的信息。这种既减少了指标的数目又抓住了主要矛这种既减少了指标的数目又抓住了主要矛 盾的做法有利于问题的分析和处理。盾的做法有利于问题的分析和处理。9/22/20224医学统计学9/22/20225医学统计学 如何利用这些指标对每一儿童的生长发育如何利用这些指标对每一儿童的生长发育 作出正确评价？作出正确评价？仅用单一指标：仅用单一指标：结论片面；结论片面；没有充分利用原有数据信息。没有充分利用原有数据信息。利用所有指标：利用所有指标：各指标评价的结论可能不一致，使综合各指标评价的结论可能不一致，使综合 评价困难；评价困难；工作量大。工作量大。9/22/20226医学统计学找出几个综合指标找出几个综合指标(长度、围度、特体长度、围度、特体)，这，这些综合指标是原始指标的线性组合，既保留些综合指标是原始指标的线性组合，既保留了原始指标的信息，且互不相关。了原始指标的信息，且互不相关。各综合指标提供的各综合指标提供的“信息信息”量大小用其方差量大小用其方差来衡量。来衡量。衡量一个指标的好坏衡量一个指标的好坏除了正确性与精确性外，除了正确性与精确性外，还必须能充分反映个体间的变异，一还必须能充分反映个体间的变异，一 项指标在个体间的变异越大，提供的信息项指标在个体间的变异越大，提供的信息 量越多。量越多。9/22/20227医学统计学二、数学模型及几何意义二、数学模型及几何意义9/22/20228医学统计学Z=A X9/22/20229医学统计学第一主成分第一主成分在所有在所有Zi中最大中最大9/22/202210医学统计学第二主成分第二主成分理论上主成分个数最多为理论上主成分个数最多为m个个(指标个数指标个数)实际工作中确定的主成分个数总是小于实际工作中确定的主成分个数总是小于m个个在所有在所有Zi中为第中为第2大。大。无关，互相垂直：无关，互相垂直：9/22/202211医学统计学X1X2112-2-2-1-120相关相关变异变异9/22/202212医学统计学X1X2Z1Z2112-2-2-2-211-1-1-1-122209/22/202213医学统计学Z1Z2-2-211-1-1220相关相关变异变异9/22/202214医学统计学三、主成分的求法及性质三、主成分的求法及性质9/22/202215医学统计学（一）主成分的求法（一）主成分的求法 1.1.对各原始指标值进行标准化对各原始指标值进行标准化为了方便，仍用为了方便，仍用Xij表示表示Xij。9/22/202216医学统计学标准化后的数据矩阵标准化后的数据矩阵X=9/22/202217医学统计学2.求出求出X1,X2,Xm 的的相关矩阵相关矩阵RR=Cov(X)=9/22/202218医学统计学Pearson 相关系数相关系数 标准化后的协方差标准化后的协方差协方差协方差9/22/202219医学统计学3.求出矩阵求出矩阵R的全部特征值的全部特征值(eigenvalue)i,第第i个主成分的组合系数个主成分的组合系数ai1,ai2,aim满满 足方程组足方程组:(r11 i)ai1+r12 ai2+r1m aim=0 r21 ai1+(r22 i)ai2+r2m aim=0 rm1 ai1+rm2 ai2+(rmm i)aim=0 9/22/202220医学统计学 (r11 i)ai1+r12 ai2+r1m aim=0 r21 ai1+(r22 i)ai2+r2m aim=0 rm1 ai1+rm2 ai2+(rmm i)aim=0 i为为矩阵矩阵R的第的第i个特征值，个特征值，共有共有m个非个非负特征值，由大到小的顺序排列为：负特征值，由大到小的顺序排列为：1 2 m0 i=Var(Zi)9/22/202221医学统计学4.由以上方程组，求出相应于特征值由以上方程组，求出相应于特征值 i 的的 特征向量特征向量(eigenvector)(ai1,ai2,aim)9/22/202222医学统计学（二）主成分的性质（二）主成分的性质 1.各主成分互不相关各主成分互不相关 9/22/202223医学统计学2.主成分的贡献率与累积贡献率主成分的贡献率与累积贡献率 (原始指标值标准化原始指标值标准化)(指标个数指标个数)贡献率贡献率累积贡献率累积贡献率9/22/202224医学统计学3.主主成分个数的选取成分个数的选取（1）前前k个主成分的累积贡献率个主成分的累积贡献率70%。（2）主成分主成分Zi的的特征值特征值 i 1。4.因子载荷因子载荷（第（第i主成分主成分Zi与第与第j原始指标原始指标Xi间相关系数间相关系数）9/22/202225医学统计学5.样品的主成分得分样品的主成分得分9/22/202226医学统计学四、实例四、实例9/22/202227医学统计学9/22/202228医学统计学9/22/202229医学统计学9/22/202230医学统计学 1.主成分个数的选取主成分个数的选取 3很接近于很接近于1 1；3 与与 2的贡献率相差不大，为的贡献率相差不大，为25%左右，左右，若舍去若舍去 3不合理。不合理。取前三个主成分。取前三个主成分。9/22/202231医学统计学2.列出主成分表达式列出主成分表达式Z1为急性炎症成分为急性炎症成分（X1转氨酶、转氨酶、X2肝大指数）肝大指数）Z2为慢性炎症成分为慢性炎症成分（X3硫酸锌浊度硫酸锌浊度 ）Z3为癌变成分为癌变成分（X4甲胎球蛋白甲胎球蛋白 ）9/22/202232医学统计学3.求出因子载荷阵求出因子载荷阵9/22/202233医学统计学4.主成分得分主成分得分9/22/202234医学统计学p标准化指标主成分还原为标准化指标主成分还原为原始指标主成分原始指标主成分9/22/202235医学统计学p 将该肝病患者的四项肝功能指标代入将该肝病患者的四项肝功能指标代入 原始指标主成分原始指标主成分表达式：表达式：Z1=2.50865 Z2=1.06626 Z3=1.22943 该肝病患者可能为急性炎症该肝病患者可能为急性炎症。9/22/202236医学统计学五、主成分分析的应用五、主成分分析的应用 1.1.对原始指标进行综合对原始指标进行综合 以互不相关的较少个综合指标反应众多原以互不相关的较少个综合指标反应众多原 始指标提供的信息。始指标提供的信息。主成分回归主成分回归(解决多元共线问题解决多元共线问题)。2.进行综合评价进行综合评价 9/22/202237医学统计学3.进行进行探索性分析探索性分析 利用因子载荷阵，找出影响各综合指标的利用因子载荷阵，找出影响各综合指标的 主要原始指标。主要原始指标。4.对样品进行分类对样品进行分类 利用主成分得分对样品进行分类：利用主成分得分对样品进行分类：Z1为急性炎症成分为急性炎症成分 Z2为慢性炎症成分为慢性炎症成分 Z3为癌变成分为癌变成分9/22/202238医学统计学第二节第二节 因子分析因子分析Factor Analysis9/22/202239医学统计学一、因子分析基本思想一、因子分析基本思想p从分析多个可观测的原始指标的相关关系从分析多个可观测的原始指标的相关关系入手，找到支配这种相关关系的有限个入手，找到支配这种相关关系的有限个不可不可观测的潜在变量。观测的潜在变量。是多元分析中处理降维的是多元分析中处理降维的一种统计方法。一种统计方法。p如：脑部疾病患者的如：脑部疾病患者的意识清醒状态意识清醒状态可由语可由语言能力、辩识能力、记忆能力、理解能力与言能力、辩识能力、记忆能力、理解能力与思维逻辑能力等可观测的指标反映。思维逻辑能力等可观测的指标反映。9/22/202240医学统计学二、因子分析数学模型二、因子分析数学模型 X1:收缩压收缩压X2:舒张压舒张压X3:心跳间隔心跳间隔X4:呼吸间隔呼吸间隔X5:舌下温度舌下温度F1:交感神经交感神经F2:副交感神经副交感神经 common factor9/22/202241医学统计学 specific factor common factor9/22/202242医学统计学Xi:观测指标观测指标(标准化数据标准化数据)Fi:公因子公因子 ei:特殊因子特殊因子aij:因子载荷因子载荷(计算关键项计算关键项)9/22/202243医学统计学X =AF+e9/22/202244医学统计学9/22/202245医学统计学9/22/202246医学统计学三、因子模型的性质三、因子模型的性质 矩阵矩阵A的统计意义的统计意义1.1.公共度公共度(共性方差共性方差 )9/22/202247医学统计学因子的共性方差因子的共性方差9/22/202248医学统计学2.因子贡献与因子贡献率因子贡献与因子贡献率矩阵矩阵A第第j列元素列元素 反映了第反映了第j个公个公因子因子Fj对所有原始指标的影响对所有原始指标的影响;数据标准化后全部原始指标的总方差为指数据标准化后全部原始指标的总方差为指标个数标个数m。Fj对原始指标对原始指标的方差贡献率的方差贡献率9/22/202249医学统计学各因子的贡献各因子的贡献9/22/202250医学统计学3.因子载荷及因子载荷阵因子载荷及因子载荷阵A9/22/202251医学统计学四、因子载荷阵的求解及计算步骤四、因子载荷阵的求解及计算步骤 1.收集原始数据并整理为下表收集原始数据并整理为下表 9/22/202252医学统计学2.对各指标进行标准化对各指标进行标准化3.求指标间的相关系数矩阵求指标间的相关系数矩阵RX4.求指标间的约相关系数矩阵求指标间的约相关系数矩阵R*（1）R*的非对角线元素与相关矩阵的非对角线元素与相关矩阵RX的的 非对角线元素相等非对角线元素相等 （2）R*的对角线元素为共性方差的对角线元素为共性方差9/22/202253医学统计学5.求出约关系数矩阵求出约关系数矩阵R*所有大于零的特所有大于零的特 征值及相应的特征向量征值及相应的特征向量6.写出因子载荷阵写出因子载荷阵A，得出原始指标，得出原始指标X的的 公因子表达式公因子表达式9/22/202254医学统计学p要求：要求：1.保留公因子个数保留公因子个数q小于指标个数小于指标个数m，原则：原则：j1 前前k个公因子累积贡献率个公因子累积贡献率70%2.各共性方差各共性方差 接近于接近于1。3.各原始指标在同一公因子各原始指标在同一公因子Fj上的因子载荷上的因子载荷 之间的差别应尽可能大。之间的差别应尽可能大。9/22/202255医学统计学五、实例五、实例9/22/202256医学统计学1.主成分解主成分解9/22/202257医学统计学9/22/202258医学统计学9/22/202259医学统计学主成分解：主成分解：除因子除因子1 1可初步认定为综合因子外，其余可初步认定为综合因子外，其余3个因子的专业意义不明显。个因子的专业意义不明显。2.主因子解：主因子解：除因子除因子1 1可初步认定为综合因子外，其余可初步认定为综合因子外，其余3个因子的专业意义不明显。个因子的专业意义不明显。9/22/20226