统计学从数据到结论1第十二章 判别分析判别分析 212.1 12.1 判别分析判别分析(discriminant analysis) 某些昆虫的性别只有通过解剖才能够判别某些昆虫的性别只有通过解剖才能够判别但雄性和雌性昆虫在若干体表度量上有些但雄性和雌性昆虫在若干体表度量上有些综合的差异。人们就根据已知雌雄的昆虫综合的差异。人们就根据已知雌雄的昆虫体表度量（这些用作度量的变量亦称为预体表度量（这些用作度量的变量亦称为预测变量）得到一个标准，并以此标准来判测变量）得到一个标准，并以此标准来判别其他未知性别的昆虫。别其他未知性别的昆虫。这样虽非这样虽非100%100%准确的判别至少大部分是对准确的判别至少大部分是对的，而且用不着杀生。的，而且用不着杀生。此即判别分析此即判别分析3判别分析判别分析(discriminant analysis)判别分析和聚类分析有何不同？判别分析和聚类分析有何不同？在在聚聚类类分分析析中中，人人们们一一般般事事先先并并不不知知道道应应该该分分成成几几类类及及哪哪几几类类，全全根根据据数数据确定。据确定。在在判判别别分分析析中中，至至少少有有一一个个已已经经明明确确知知道道类类别别的的“训训练练样样本本”，并并利利用用该该样样本本来来建建立立判判别别准准则则，并并通通过过预预测测变变量来为未知类别的观测值进行判别了。量来为未知类别的观测值进行判别了。4判别分析例子判别分析例子数数据据disc.txt:企企图图用用一一套套打打分分体体系系来来描描绘绘企企业业的的状状况况。该该体体系系对对每每个个企企业业的的一些指标（变量）进行评分。一些指标（变量）进行评分。指指标标有有:企企业业规规模模（is）、服服务务(se)、雇雇员员工工资资比比例例(sa)、利利润润增增长长(prr)、市市场场份份额额(ms)、市市场场份份额额增增长长(msr)、流流动动资金比例资金比例(cp)、资金周转速度、资金周转速度(cs)等等.另另外外，有有一一些些企企业业已已经经被被某某杂杂志志划划分分为上升企业、稳定企业和下降企业。为上升企业、稳定企业和下降企业。5判别分析例子判别分析例子希希望望根根据据这这些些企企业业的的上上述述变变量量的的打打分分及及其其已已知知的的类类别别(三三个个类类别别之之一一：group-1代代表表上上升升，group-2代代表表稳稳定定，group-3代代表表下下降降)找找出出一一个个分分类类标标准准，以对尚未被分类的企业进行分类。以对尚未被分类的企业进行分类。该该数数据据有有90个个企企业业（90个个观观测测值值），其其中中30个个属属于于上上升升型型，30个个属属于于稳稳定定型型，30个个属属于于下下降降型型。这这个个数数据据就就是是一个一个“训练样本训练样本”。6Disc.savDisc.sav数据数据 71. 根据距离判别的思想根据距离判别的思想Disc.txt数数据据有有8个个用用来来建建立立判判别别标标准准(或或判判别函数别函数)的的(预测预测)变量变量,另一个另一个(group)是类别是类别每每一一个个企企业业的的打打分分在在这这8个个变变量量所所构构成成的的8维维空空间间中中是是一一个个点点。这这个个数数据据在在8维维空空间间有有90个点，个点，由由于于已已知知所所有有点点的的类类别别，可可以以求求得得每每个个类类型型的的中中心心。这这样样只只要要定定义义了了距距离离，就就可可以以得得到到任任何何给给定定的的点点（企企业业）到到这这三三个个中中心心的三个距离。的三个距离。81. 根据距离判别的思想根据距离判别的思想最最简简单单的的办办法法就就是是:某某点点离离哪哪个个中中心心距离最近，就属于哪一类。距离最近，就属于哪一类。一个常用距离是一个常用距离是Mahalanobis距离。距离。用用来来比比较较到到各各个个中中心心距距离离的的数数学学函函数称为判别函数数称为判别函数(discriminant function).这这种种根根据据远远近近判判别别的的思思想想，原原理理简简单，直观易懂。为判别分析的基础单，直观易懂。为判别分析的基础92. Fisher2. Fisher判别法判别法(先进行投影先进行投影)Fisher判别法就是一种先投影的方法。判别法就是一种先投影的方法。考虑只有两个考虑只有两个(预测预测)变量的判别问题。变量的判别问题。假假定定只只有有两两类类。数数据据中中的的每每个个观观测测值值是二维空间的一个点。见图。是二维空间的一个点。见图。这这里里只只有有两两种种已已知知类类型型的的训训练练样样本本。一一类类有有38个个点点(用用“o”表表示示),另另一一类类有有44个个点点(用用“*”表表示示)。按按原原来来变变量量(横横坐标和纵坐标坐标和纵坐标)，很难将这两种点分开。，很难将这两种点分开。10112. Fisher2. Fisher判别法判别法(先进行投影先进行投影)于于是是就就寻寻找找一一个个方方向向，即即图图上上的的虚虚线线方方向向，沿沿该该方方向向朝朝和和这这个个虚虚线线垂垂直直的的一一条条直直线线进进行行投投影影会会使使得得这这两两类类分分得得最最清清楚楚。可可以以看看出出，如如果果向向其其他他方方向向投影，判别效果不会比这个好。投影，判别效果不会比这个好。有有了了投投影影之之后后，再再用用前前面面讲讲到到的的距距离离远远近近的的方方法法得得到到判判别别准准则则。这这种种先先投投影的判别方法就是影的判别方法就是Fisher判别法。判别法。 123.逐步判别法逐步判别法(仅仅是在前面的方法中加入变量选择的功能仅仅是在前面的方法中加入变量选择的功能)有有时时，一一些些变变量量对对于于判判别别并并没没有有什什么么作作用用，为为了了得得到到对对判判别别最最合合适适的的变变量量，可可以以使使用用逐逐步步判判别别。即，一边判别，一边选择判别能力最强的变量，即，一边判别，一边选择判别能力最强的变量，这这个个过过程程可可以以有有进进有有出出。一一个个变变量量的的判判别别能能力力的的判判断断方方法法有有很很多多种种，主主要要利利用用各各种种检检验验，例例如如Wilks Lambda、Raos V、The Squared Mahalanobis Distance、Smallest F ratio或或The Sum of Unexplained Variations等等检检验验。其其细细节节这这里里就就不不赘赘述述了了；这这些些不不同同方方法法可可由由统统计计软软件件的的各各种种选选项项来来实实现现。逐逐步步判别的其他方面和前面的无异。判别的其他方面和前面的无异。13Disc.txt例子例子利利用用SPSS软软件件的的逐逐步步判判别别法法淘淘汰汰了了不不显显著著的的流流动动资资金金比比例例(cp)，还还剩剩下下七七个个变变量量。用用x1,x2, x3, x4,x5, x6, x7分分别别表表示示标标准准化化后后的的变变量量is，se，sa，prr，ms，msr，cs，得得 到到 两两 个个 典典 则则 判判 别别 函函 数数 （ Canonical Discriminant Function Coefficients）：）： 这这两两个个函函数数实实际际上上是是由由Fisher判判别别法法得得到到的的向向两两个个方方向向的的投投影影。这这两两个个典典则则判判别别函函数数的的系系数数是是下下面面的的SPSS输输出得到的：出得到的： 14Disc.txt例子例子根根据据这这两两个个函函数数，从从任任何何一一个个观观测测值值（每每个个观观测测值值都都有有7个个变变量量值值）都都可可以以算算出出两两个个数数。把把这这两两个个数数目目当当成成该该观观测测值值的的坐坐标标，这这样样数数据据中中的的150个个观观测测值值就就是是二二维维平平面面上上的的150个个点点。它它们们的的点点图图在在下下面面图中。图中。 15Disc.txt例子例子从从上上图图可可以以看看出出，第第一一个个投投影影（相相应应于于来来自自于于第第一一个个典典则则判判别别函函数数横横坐坐标标值值）已已经经能能够够很很好好地地分分辨辨出出三三个个企企业业类类型型了了。这这两两个个典典则则判判别别函函数数并并不不是是平平等等的的。其其实实一一个个函函数数就就已已经经能能够够把把这这三三类类分分清清楚楚了了。SPSS的的一一个个输输出出就给出了这些判别函数（投影）的重要程度：就给出了这些判别函数（投影）的重要程度：前前面面说说过过，投投影影的的重重要要性性是是和和特特征征值值的的贡贡献献率率有有关关。该该表表说说明明第第一一个个函函数数的的贡贡献献率率已已经经是是99%了了，而而第第二二个个只只有有1%。当当然然，二二维维图图要要容容易易看看一一些些。投投影影之之后后，再再根根据据各各点的位置远近算出具体的判别公式（点的位置远近算出具体的判别公式（SPSS输出）：输出）：16Disc.txt例子例子具体的判别公式（具体的判别公式（SPSS输出），由一张分类函数表给出：输出），由一张分类函数表给出： 该该表表给给出出了了三三个个线线性性分分类类函函数数的的系系数数。把把每每个个观观测测点点带带入入三三个个函函数数，就就可可以以得得到到分分别别代代表表三三类类的的三三个个值值，哪哪个个值值最最大大，该该点点就就属属于于相相应应的的那那一一类类。当当然然，用用不不着着自自己己去去算算，计计算算机机软软件件的的选选项项可可以以把把这这些些训训练练数数据据的的每每一一个个点点按按照照这这里里的的分分类类法法分分到到某某一一类类。当当然然，我我们们一一开开始始就就知知道道这这些些训训练练数数据据的的各各个个观观测测值值的的归归属属，但但即即使使是是这这些些训训练练样样本本的的观观测测值值（企企业业）按按照照这这里里推推导导出出的的分分类类函函数数来来分分类类，也也不不一一定全都能够正确划分。定全都能够正确划分。 17Disc.txt例子例子下面就是对我们的训练样本的分类结果（下面就是对我们的训练样本的分类结果（SPSS）：）：18误判和正确判别率误判和正确判别率从该表看，我们的分类能够从该表看，我们的分类能够100%地把训练地把训练数据的每一个观测值分到其本来的类。数据的每一个观测值分到其本来的类。该表分成两部分；上面一半（该表分成两部分；上面一半（Original）是）是用从全部数据得到的判别函数来判断每一用从全部数据得到的判别函数来判断每一个点的结果（前面三行为判断结果的数目，个点的结果（前面三行为判断结果的数目，而后三行为相应的百分比）。而后三行为相应的百分比）。下面一半（下面一半（Cross validated）是对每一个观）是对每一个观测值，都用缺少该观测的全部数据得到的测值，都用缺少该观测的全部数据得到的判别函数来判断的结果。判别函数来判断的结果。这里结果是这里结果是100%正确，但一般并不一定。正确，但一般并不一定。 19Disc.txt例子例子如如果果就就用用这这个个数数据据，但但不不用用所所有有的的变变量量，而而只只用用4个个变变量量进进行行判判别别：企企业业规规模模（is）、服服务务(se)、雇雇员员工工资资比比例例(sa)、资资金金周周转转速速度度(cs)。结结果果的的图图形形和和判判别别的的正正确确与与否否就就不不一一样样了了。下下图图为为两两个个典典则则判判别别函函数数导导出出的的150个个企企业业的的二二维维点点图图。它它不不如如前前面面的的图图那那么容易分清楚了么容易分清楚了 原先的图原先的图20Disc.txt例子例子下面是基于下面是基于4个变量时分类结果表：个变量时分类结果表： 这这个个表表的的结结果果是是有有87个个点点（96.7%）得得到到正正确确划划分分，有有3个个点点被被错错误误判判别别；其其中中第第二二类类有有两两个个被被误误判判为为第第一一类类，有一个被误判为第三类。有一个被误判为第三类。2112.2判别分析要注意什么判别分析要注意什么？训练样本中必须包含所有要判别的类训练样本中必须包含所有要判别的类型，分类必须清楚，不能有混杂。型，分类必须清楚，不能有混杂。 要要选择好选择好可能用于判别的可能用于判别的预测变量预测变量。这是最重要的。当然，在应用中，选这是最重要的。当然，在应用中，选择余地不见得有多大。择余地不见得有多大。 要注意数据是否有要注意数据是否有不寻常的点不寻常的点或者模或者模式存在。还要看预测变量中是否有些式存在。还要看预测变量中是否有些不适宜的；这可以不适宜的；这可以用单变量方差分析用单变量方差分析（ANOVA）和相关分析来）和相关分析来验证。验证。22判别分析要注意什么判别分析要注意什么？判别分析是为了正确地分类，但同时也要判别分析是为了正确地分类，但同时也要注意使用尽可能少的预测变量来达到这个注意使用尽可能少的预测变量来达到这个目的。使用较少的变量意味着节省资源和目的。使用较少的变量意味着节省资源和易于对结果作解释。易于对结果作解释。 在计算中需要看关于各个类的有关变量的在计算中需要看关于各个类的有关变量的均值是否显著不同的均值是否显著不同的检验结果检验结果(在在SPSS选项中选择选项中选择Wilks Lambda、Raos V、The Squared Mahalanobis Distance或或The Sum of Unexplained Variations等检验的计算机输等检验的计算机输出出),以确定是否分类结果仅由于随机因素。以确定是否分类结果仅由于随机因素。23判别分析要注意什么判别分析要注意什么？此外成员的权数（此外成员的权数（SPSS用用prior probability，即，即“先验概率先验概率”，和贝叶斯统计的先验，和贝叶斯统计的先验概率有区别）需要考虑；一般来说，加权概率有区别）需要考虑；一般来说，加权要按照各类观测值的多少，观测值少的就要按照各类观测值的多少，观测值少的就要按照比例多加权。要按照比例多加权。对于多个判别函数，要弄清各自的重要性。对于多个判别函数，要弄清各自的重要性。注意训练样本的正确和错误分类率。研究注意训练样本的正确和错误分类率。研究被误分类的观测值，看是否能被误分类的观测值，看是否能找出原因找出原因。 24SPSS选项选项打开打开disc.sav数据。然后点击数据。然后点击AnalyzeClassifyDiscriminant，把把group放入放入Grouping Variable，再定义范围，即在，再定义范围，即在Define Range输入输入13的范围。然后在的范围。然后在Independents输入所有想用输入所有想用的变量；但如果要用逐步判别，则不选的变量；但如果要用逐步判别，则不选Enter independents together，而选择，而选择Use stepwise method，在方法（在方法（Method）中选挑选变量的准则（检验方法；默认）中选挑选变量的准则（检验方法；默认值为值为Wilks Lambda）。）。为了输出为了输出Fisher分类函数的结果可以在分类函数的结果可以在Statistics中的中的Function Coefficient选选 Fisher和和Unstandardized ，在，在Matrices中选择输出所需要的相关阵；中选择输出所需要的相关阵；还可以在还可以在Classify中的中的Display选选summary table, Leave-one-out classification；注意在；注意在Classify选项中默认的选项中默认的Prior Probability为为All groups equal表示所有的类都平等对待，而表示所有的类都平等对待，而另一个选项为另一个选项为Compute from group sizes，即按照类的大小，即按照类的大小加权。加权。在在Plots可选可选 Combined-groups, Territorial map等。等。 25和聚类分析的关系和聚类分析的关系判别分析和聚类分析判别分析和聚类分析都是分类都是分类.但但判别分析是在判别分析是在已知已知对象有若对象有若干类型和一批已知样品的观测干类型和一批已知样品的观测数据后的基础上根据某些准则数据后的基础上根据某些准则建立判别式建立判别式. 而做聚类分析时类而做聚类分析时类型并型并不知道不知道.可以可以先聚类先聚类以得知类型以得知类型,再再进行进行判别判别.26距离判别法距离判别法假设有两个总体假设有两个总体G1和和G2, 如果能如果能够定义点够定义点x到它们的距离到它们的距离D(x,G1)和和D(x,G2), 则则如果如果D(x,G1) D(x,G2)则则 xG1如果如果D(x,G2) 0即即D(x,G1)D(x,G2)则则 xG1如果如果W(x)D(x,G2)则则 xG2如果如果W(x)=0即即D(x,G1)=D(x,G2)则待判则待判29当当m m(1), m m(2), S S 已知已知时时,令令a= S S-1(m m(1)- m m(2) ) (a1, ap),则则显然显然W(x)为为x1, xp的线性函数的线性函数, 称为线性判称为线性判别函数别函数; a称为称为判别系数判别系数. 30当当m m(1), m m(2), S S 未知未知时时,可通过样本来估计可通过样本来估计:判别函数为判别函数为为来自为来自Gi的样本为的样本为(i=1,2)31非线性判别函数非线性判别函数:当当S S(1) S S(2)时时这是这是x的一个二次函数的一个二次函数, 按照距离最近原则按照距离最近原则,判别准则仍然为判别准则仍然为如果如果W(x)0即即D(x,G1)D(x,G2)则则 xG1如果如果W(x)D(x,G2)则则 xG2如果如果W(x)=0即即D(x,G1)=D(x,G2)则待判则待判32多总体时的线性判别函数多总体时的线性判别函数:当当S S(1)=S S(k)=S S时时记记相应的准则为相应的准则为:如果对一切如果对一切ji, Wij(x)0, 则则 xGi如果有某一个如果有某一个Wij(x)=0, 则待判则待判33Bayes判别法判别法不用判别式不用判别式,而用而用比较比较新给样品属于各个总体的新给样品属于各个总体的条件概率条件概率P(l|x), l=1,k, 的大小的大小(将新样品判归将新样品判归为来自概率最大的总体为来自概率最大的总体).先给出对于先给出对于k个总体的先验概率个总体的先验概率q1,qk. 如各总如各总体密度为体密度为fk(x), 则后验概率为则后验概率为(g=1,k): P(g|x)=qgfg(x)/S Si qifi(x)当且仅当当且仅当P(h|x)= maxgP(g|x), 判判x来自第来自第h总体总体.也可以用使错判的损失最小来判别也可以用使错判的损失最小来判别. 如果如果c(i|j)为为来自来自j总体的个体被错判到第总体的个体被错判到第i总体的损失总体的损失. 定义定义平均错判损失平均错判损失(ECM)为为ECM=S Si=1 qiS SliP(l|i)c(l|i)34逐步判别法逐步判别法前面判别用了所有变量前面判别用了所有变量.但是各变量所起作用并不一样但是各变量所起作用并不一样.要有进有出要有进有出,引进引进“最重要的最重要的”并剔除不显著的并剔除不显著的. 根据是假设检根据是假设检验验(比如似然比检验比如似然比检验).检验的零假设是各组变量均值相等检验的零假设是各组变量均值相等. Lambda (Wilks Lambda统计量统计量) 接近接近0表示组均值不同表示组均值不同,接近接近1表示组均值没有不同表示组均值没有不同. Chi-square是是lambda的卡方转换的卡方转换(Bartelett近似近似), 用于确定其显著性用于确定其显著性. 35鸢尾花数据鸢尾花数据(花瓣花瓣,花萼的长宽花萼的长宽) 5个变量个变量:花瓣长花瓣长(slen),花瓣花瓣宽宽(swid), 花萼长花萼长(plen), 花萼宽花萼宽(pwid), 分类号分类号(1:Setosa, 2:Versicolor, 3:Virginica)36StatisticsClassify Discriminant:Variables: independent (slen,swid,plen,pwid) Grouping(spno) Define range(min-1,max-3) Classify: prior probability(All group equal) use covariance matrix (Within-groups) Plots (Combined-groups, Separate-groups, Territorial map) Display (Summary table)Statistics: Descriptive (Means) Function Coefficients (Fishers, Unstandardized) Matrix (Within-groups correlation, Within-groups covariance, Separate-groups covariance, Total covariance) Save: (Predicted group membership, Discriminant Scores, Probability of group membership)37鸢尾花数据鸢尾花数据(数据分析过程简明表数据分析过程简明表)38鸢尾花数据鸢尾花数据(原始数据的描述原始数据的描述)39鸢尾花数据鸢尾花数据(合并类内相关阵和协方差阵合并类内相关阵和协方差阵)40鸢尾花数据鸢尾花数据(总协方差阵总协方差阵)41鸢尾花数据鸢尾花数据(特征值特征值表表)Eigenvalue:用于分析的前两个典则判别函数的特征用于分析的前两个典则判别函数的特征值值, 是组间平方和与组内平方和之比值是组间平方和与组内平方和之比值. 最大特征值最大特征值与组均值最大的向量对应与组均值最大的向量对应, 第二大特征值对应着次第二大特征值对应着次大的组均值向量大的组均值向量典则相关系数典则相关系数(canonical correlation):是组间平方和是组间平方和与总平方和之比的平方根与总平方和之比的平方根.被平方的是由组间差异被平方的是由组间差异解释的变异总和的比解释的变异总和的比.42鸢尾花数据鸢尾花数据(Wilks Lambda统计量统计量)检验的零假设是各组变量均值相等检验的零假设是各组变量均值相等. Lambda接近接近0表示组均值不同表示组均值不同,接近接近1表示组均值没有不同表示组均值没有不同. Chi-square是是lambda的卡方转换的卡方转换, 用于确定其显著性用于确定其显著性. 43鸢尾花数据鸢尾花数据(有关判别函数的输出有关判别函数的输出)标准化的典则判别标准化的典则判别函数系数函数系数(使用时使用时必须用必须用标准化标准化的自的自变量变量)44鸢尾花数据鸢尾花数据(有关判别函数的输出有关判别函数的输出)典则判别函数系数典则判别函数系数45鸢尾花数据鸢尾花数据(有关判别函数的输出有关判别函数的输出)这是类均值这是类均值(重心重心)处的典则判别函数值处的典则判别函数值这是典则判别函数这是典则判别函数(前面两个函数前面两个函数)在类在类均值均值(重心重心)处的值处的值46鸢尾花数据鸢尾花数据(用判别函数对观测量分类结果用判别函数对观测量分类结果)先验概率先验概率(没有给没有给)费歇判别函数系数费歇判别函数系数把自变量代入三个把自变量代入三个式子式子,哪个大归谁哪个大归谁.47 Territorial MapCanonical DiscriminantFunction 2 -12.0 -8.0 -4.0 .0 4.0 8.0 12.0 趄蝌蝌蝌蝌趄蝌蝌蝌蝌趄蝌蝌蝌蝌趄蝌蝌蝌蝌趄蝌蝌蝌蝌趄蝌蝌蝌蝌 12.0 12 23 12 23 12 23 12 23 12 23 12 23 8.0 12 23 12 23 12 23 12 23 12 23 12 23 4.0 12 23 12 23 12 23 12 23 12 23 12 23 * .0 * 12 23 12 * 23 12 23 12 23 12 23 12 23 -4.0 12 23 12 23 12 23 12 23 12 23 12 23 -8.0 12 23 12 23 12 23 12 23 12 23 12 23 -12.0 12 23 趄蝌蝌蝌蝌趄蝌蝌蝌蝌趄蝌蝌蝌蝌趄蝌蝌蝌蝌趄蝌蝌蝌蝌趄蝌蝌蝌蝌 -12.0 -8.0 -4.0 .0 4.0 8.0 12.0 Canonical Discriminant Function 1Symbols used in territorial mapSymbol Group Label- - - 1 1 刚毛鸢尾花 2 2 变色鸢尾花 3 3 佛吉尼亚鸢尾花 * Indicates a group centroid鸢尾花数据鸢尾花数据Territory Map(区域图区域图)Canonical Discriminate Function 1VersusCanonical Discriminate Function 2三种三种鸢尾花鸢尾花的典则变量值把一的典则变量值把一个典则变量组成的坐标平面分个典则变量组成的坐标平面分成三个区域成三个区域. *为为中心中心坐标坐标.48鸢尾花数据鸢尾花数据(预测分类结果小结预测分类结果小结)可以看出分错率可以看出分错率49