资源预览内容
第1页 / 共16页
第2页 / 共16页
第3页 / 共16页
第4页 / 共16页
第5页 / 共16页
第6页 / 共16页
第7页 / 共16页
第8页 / 共16页
第9页 / 共16页
第10页 / 共16页
亲,该文档总共16页,到这儿已超出免费预览范围,如果喜欢就下载吧!
资源描述
第七章 岭回归1.岭回归估计是在什么情况下提出的?答:当解释变量间出现严重的多重共线性时,用普通最小二乘法估计模型参数,往往参数估计方差太大,使普通最小二乘法的效果变得很不理想,为了解决这一问题,统计学家从模型和数据的角度考虑,采用回归诊断和自变量选择来克服多重共线性的影响,这时,岭回归作为一种新的回归方法被提出来了。2.岭回归估计的定义及其统计思想是什么?答:一种改进最小二乘估计的方法叫做岭估计。当自变量间存在多重共线性,XX0时,我们设想给XX加上一个正常数矩阵kI(k0),那么XX+kI 接近奇异的程度小得多,考虑到变量的量纲问题,先对数据作标准化,为了计算方便,标准化后的设计阵仍然用X表示,定义为 1XIy,称为 的岭回归估计,其中k称为岭参数。3.选择岭参数k有哪几种主要方法?答:选择岭参数的几种常用方法有1.岭迹法,2. 方差扩大因子法, 3.由残差平方和来确定k值。4.用岭回归方法选择自变量应遵从哪些基本原则?答:用岭回归方法来选择变量应遵从的原则有:(1 )在岭回归的计算中,我们假定设计矩阵X已经中心化和标准化了,这样可以直接比较标准化岭回归系数的大小,我们可以剔除掉标准化岭回归系数比较稳定且绝对值很小的自变量。(2 ) 当k值较小时标准化岭回归系数的绝对值并不是很小,但是不稳定,随着k的增加迅速趋于零。像这样的岭回归系数不稳定, 震动趋于零的自变量,我们也可以予以删除。(3 ) 去掉标准化岭回归系数很不稳定的自变量,如果有若干个岭回归系数不稳定,究竟去掉几个,去掉哪几个,这并无一般原则可循,这需根据去掉某个变量后重新进行岭回归分析的效果来确定。5.对第5 章习题9的数据,逐步回归的结果只保留了3个自变量x1 ,x2 ,x5,用y对这3个自变量做岭回归分析。答: 依题意,对逐步回归法所保留的三个自变量做岭回归分析。程序为:includeC:Program FilesSPSSEVALRidge regression.sps.ridgereg dep=y/enter x1 x2 x5/start=0.0/stop=1/inc=0.01.岭迹图如下:1.20.0.8.60.4.20.4.03.2.01.0.-1.-2. x5K2x15Kx21KRIDGE TAC计算结果为:可以看到,变量x 1、x 2迅速由负变正,x 5迅速减小,在0.01-0.1之间各回归系数的岭估计基本稳定,重新做岭回归。岭迹图如下:先取k=0.08:语法命令如下:includeC:Program FilesSPSSEVALRidge regression.sps.ridgereg dep=y/enter x1 x2 x5/k=0.08.运行结果如下:得到回归方程为: 1230.6.80.678.4yxx再取k=0.01:语法命令如下:includeC:Program FilesSPSSEVALRidge regression.sps.ridgereg dep=y/enter x1 x2 x5/k=0.01.运行结果:* Ridge Regression with k = 0.01 *Mult R .9931857RSquare .9864179Adj RSqu .9840210SE 329.6916494ANOVA tabledf SS MSRegress 3.000 134201841 44733947Residual 17.000 1847841.9 108696.58F value Sig F411.5487845 .0000000-Variables in the Equation-B SE(B) Beta B/SE(B)x1 .0556780 .0615651 .0981355 .9043751x2 .0796395 .0218437 .3291293 3.6458814x5 .1014400 .0108941 .5621088 9.3114792Constant 753.3058478 121.7381256 .0000000 6.1879205回归方程为: y=753.3058-0.05568x10.0796x20.1014x5从上表可看出,方程通过F检验,R检验,经查表,所有自变量均通过 t检验,说明回归方程通过检验。从经济意义上讲,x 1(农业增加值)、x 2(工业增加值) x5(社会消费总额)的增加应该对y(财政收入)有正方向的影响,岭回归方程中三个自变量的系数均为正值,与实际的经济意义相符。比逐步回归法得到的方程有合理解释。6.对习题3.12的 问题,分别用普通最小二乘和岭回归建立GDP对第二产业增加值 x2,和第三产业增加值x3的二元线性回归,解释所得到的回归系数?答:(1)普通最小二乘法:Coefficientsa4352.859 679.065 6.410 .0001.438 .151 .775 9.544 .000.679 .244 .226 2.784 .017(Constant)Model1 B Std. ErrorUnstandardizedCoefficientsBetaStandardizedCoefficientst Sig.Dependent Variable: GDPa. 根据上表得到y与x2,x3的线性回归方程为:=4352.859+1.438x2+0.679x3y上式中的回归系数得不到合理的解释. 的数值应该大于1 ,实际上, x3的年增长幅度大于 x1和x 2的年增长幅度,因此3合理的 的数值应大于 1。这个问题产生的原因仍然是存在共线性, 所以采用岭回归来改进这个问题。(2)岭回归法:程序为:includeC:Program FilesSPSSEVALRidge regression.sps.ridgereg dep=GDP/enter x2 x3/start=0.0/stop=0.5/inc=0.01.根据岭迹图(如下图)可知, 和 很不稳定,但其和大体上稳定)(2k)(3,说明x2和x3存在多重共线性。取k=0.1,SPSS 输出结果为:Mult R .998145, RSquare .996294Adj RSqu .995677,SE 2364.837767 ANOVA tabledf SS MSRegress 2.000 1.80E+010 9.02E+009Residual 12.000 67109492 5592457.7F value Sig F1613.140715 .000000-Variables in the Equation-B SE(B) Beta B/SE(B)x2 .907990 .021842 .489067 41.571133x3 1.393800 .035366 .463649 39.410560Constant 6552.305986 1278.903452 .000000 5.1233780.6.50.4.30.2.10.0.8.70.6.50.4.3.2 x3K2KRIDGE TAC得岭参数 k=0.1时,岭回归方程为 = 6552.306+0.908 x2+1.3938 yx3,得岭参数 k=0.01时,岭回归方程为 = 3980.2+1.091 x2+1.227 x3,y与普通最小二乘回归方程相差很大。岭回归系数 =1.227与前面的分析是吻合的,其解释是当第二产业增加值3x2保持不变时,第三产业增加值 x3每增加1 亿元GDP增加1.227亿元,这个解释是合理的。7.一家大型商业银行有多家分行,近年来,该银行的贷款额平稳增长,但不良贷款额也有较大比例的提高,为弄清楚不良贷款形成的原因,希望利用银行业务的有关数据做些定量分析,以便找出控制不良贷款的办法,表7.5是该银行所属25家分行2002年的有关业务数据。(1)计算 y与其余四个变量的简单相关系数。(2)建立不良贷款y对4 个自变量的线性回归方程,所得的回归系数是否合理?(3)分析回归模型的共线性。(4)采用后退法和逐步回归法选择变量,所得回归方程的回归系数是否合理,是否还存在共线性?(5)建立不良贷款y对4 个自变量的岭回归。(6)对第 4步剔除变量后的回归方程再做岭回归。(7)某研究人员希望做y对各项贷款余额,本年累计应收贷款.贷款项目个数这三个变量的回归,你认为这种做是否可行,如果可行应该如何做?相关性不良贷款y各项贷款余额 x1本年累计应收到款x2贷款项目个数 x3本年固定资产投资额x4Pearson 相关性不良贷款y 1.000 .844 .732 .700 .519各项贷款余额x1 .844 1.000 .679 .848 .780本年累计应收到款x2.732 .679 1.000 .586 .472贷款项目个数x3 .700 .848 .586 1.000 .747本年固定资产投资额x4.519 .780 .472 .747 1.000不良贷款y . .000 .000 .000 .004各项贷款余额x1 .000 . .000 .000 .000本年累计应收到款x2.000 .000 . .001 .009贷款项目个数x3 .000 .000 .001 . .000Sig. (单侧)本年固定资产投资额x4.004 .000 .009 .000 .不良贷款y 25 25 25 25 25各项贷款余额x1 25 25 25 25 25本年累计应收到款x225 25 25 25 25贷款项目个数x3 25 25 25 25 25N本年固定资产投资额x425 25 25 25 25系数 a非标准化系数 标准系数 共线性统计量模型 B 标准 误差 试用版 t Sig. 容差 VIF(常量) -1.022 .782 -1.306 .206各项贷款余额x1 .040 .010 .891 3.837 .001 .188 5.331本年累计应收到款x2 .148 .079 .260 1.879 .075 .529 1.890贷款项目个数x3 .015 .083 .034 .175 .863 .261 3.8351本年固定资产投资额x4 -.029 .015 -.325 -1.937 .067 .360 2.781a. 因变量: 不良贷款 y共线性诊断 a方差比例模型 维数 特征值条件索引 (常量)各项贷款余额x1本年累计应收到款x2贷款项目个数x3本年固定资产投资额x41 4.538 1.000 .01 .00 .01 .00 .002 .203 4.733 .68 .03 .02 .01 .093 .157 5.378 .16 .00 .66 .01 .134 .066 8.287 .00 .09 .20 .36 .721
网站客服QQ:2055934822
金锄头文库版权所有
经营许可证:蜀ICP备13022795号 | 川公网安备 51140202000112号