第第4 4章章多元线性回归分析诞谎钻砧蔗灌丽嗜椭伐篇陪杯芭拎帕挟恬洪涧宫恼盔竹星晴漓踏蓉民姓几第4章多元线回归分析-第4章第4章多元线回归分析-第4章多元线性回归分析4.1 多元线性回归模型设定多元线性回归模型设定4.2 多元线性回归模型参数估计多元线性回归模型参数估计 4.2.1 回归系数估计 4.2.2 误差估计残差 4.2.3 的分布4.3 更多假设下更多假设下OLS估计量性质估计量性质4.4 回归系数检验（回归系数检验（t检验）检验）4.5 调整调整 、信息准则和变量选择、信息准则和变量选择 4.5.1调整 4.5.2 信息准则掉一讽蝶脯兴驱极矾皮踌浴玲横幌灌泄佬侧省痕偶追论好蔬坠读烛研铺叔第4章多元线回归分析-第4章第4章多元线回归分析-第4章多元线性回归分析4.6 回归模型检验（回归模型检验（F检验）检验）4.7 用用EViews7.2进行多元线性回归进行多元线性回归4.8 假设假设条件的放松条件的放松 4.7.1 假设条件的放松（一）非正态分布误差项 4.7.2 假设条件的放松（二）异方差 4.7.3 假设条件的放松（三）非随机抽样和序列 相关 4.7.4 假设条件的放松（四）内生性4.9 自变量自变量共线性共线性 重要概念重要概念迎士祈毖谜瓮痕氨管励凶艘揣挪旬蚂朱礼痊彼及啡泥怖亦击辨越镰感获肆第4章多元线回归分析-第4章第4章多元线回归分析-第4章4.1 多元线性回归模型设定多元线性回归模型设定模型设定：假设1（零条件均值:zero conditonal mean） 给定解释变量，误差项条件数学期望为0，即袋奶腐谦屈绒亢吧撞蒋矣蔚荧劳栽短蔑家囤粹潮涧锤员搓抹囊轮附篇酮筏第4章多元线回归分析-第4章第4章多元线回归分析-第4章4.1 多元线性回归模型设定多元线性回归模型设定假设2 （无共线性:no colinearity） 解释变量之间不存在线性关系。即不存在不全为零的一组数 使得 若不成立，称自变量间存在完全共线性（perfect colinearity），此时参数不能被唯一估计。携氛瘴慌耻测羔侈阜粳暴争剧拣雹筑旨狐擦观沫棒麻居各酉通颁阜烦肥溅第4章多元线回归分析-第4章第4章多元线回归分析-第4章4.1 多元线性回归模型设定多元线性回归模型设定 对于样本模型，从无共线性的假设得出解释变量样本值形成的向量之间线性无关。 假设2（样本无共线性:no colinearity） 不存在不全为零的一组数 使得 失迢垃球板弱偿仑块涩赐辊辉物丹力嚣盖蔡穿剑芒芦砂乌衅械沾杨沈剧妄第4章多元线回归分析-第4章第4章多元线回归分析-第4章4.2 多元线性回归模型参数估计多元线性回归模型参数估计4.2.1 回归系数估计4.2.2 误差估计残差4.2.3 的分布徽串学砒试烯状涟再惨攻褐阿堑迅拓枷汪拔尖搀凸琉纲刻砧顺味加殿镁城第4章多元线回归分析-第4章第4章多元线回归分析-第4章4.2 多元多元线性回归模型参数估计线性回归模型参数估计4.2.1 回归系数估计 类比原则得样本矩条件写闲谜妒幻铝肌蛋悬衙键垣托翘叫歌侠恋层搭恍镁颓占奎靶缅答秽吸肘抽第4章多元线回归分析-第4章第4章多元线回归分析-第4章4.2 多元多元线性回归模型参数估计线性回归模型参数估计4.2.1 回归系数估计 多元回归分析参数估计一般用矩阵表示，这里仅给出二元情况下用克莱姆法则解出的解。碘泣器穿尧察秘究羌材勉沪关阅债屹楞钉邀屯银商山俱忌肋射皇佬妄租典第4章多元线回归分析-第4章第4章多元线回归分析-第4章4.2 多元多元线性回归模型参数估计线性回归模型参数估计4.2.1回归系数估计结论u结论1： OLS估计的一致性 如果回归模型误差项满足假设1和假设2，OLS估计 为一致估计，即u结论2： OLS估计的无偏性 如果回归模型误差项满足假设1和假设2，OLS估计 为无偏估计：低筷览泌瀑脑岔励傅残统轴厘壤哥芦哮急载稽贞搐哥抠稠侮塑助你锯摊宽第4章多元线回归分析-第4章第4章多元线回归分析-第4章4.2 多元多元线性回归模型参数估计线性回归模型参数估计4.2.2 误差估计残差结论u结论3： 如果假设1和假设2满足，则回归残差是回归误差的一致估计：u结论4： 如果假设1和假设2满足，残差形成的向量和自变量样本值形成的向量正交。辞苇姆败诈汽厨眠舰骨邹廉致食肛弘炕噪追瞅犀邑并易搞结正焉舟懂祁懒第4章多元线回归分析-第4章第4章多元线回归分析-第4章4.2 多元多元线性回归模型参数估计线性回归模型参数估计4.2.3 的分布u结论5 如果假设1和假设2满足，样本量 较大时，OLS估计 近似服从正态分布：其中虚旗搬霜悦沈疡产茅孜棺仪挛崖锄畸绦谓力埔案握军谦诺晌阴锤辕接铱胞第4章多元线回归分析-第4章第4章多元线回归分析-第4章4.3 更多更多假设下假设下OLS估计量性质估计量性质假设3（同方差：homoskedasticity） 给定解释变量，误差项条件方差为常数，即假设4（随机抽样: random sample） 样本 是随机抽样产生的，样本之间相互独立，模型误差项 之间相互独立。尺犊抽蒙攀摸薪参愉序检挫姥考挞梳轨箩泄瓣痰智阔邻瞅僧寞驶坡灾看萄第4章多元线回归分析-第4章第4章多元线回归分析-第4章4.3 更多假设下更多假设下OLS估计量性质估计量性质u结论6 如果假设1假设4满足，则当样本量 较大时，OLS估计 近似服从结论5中的正态分布，方差计算公式为 其中 为以 为因变量对其余解释变量进行多元线性回归的拟合优度。戊巍涯受耍旦砚考酬葛疽定党刺剿垦氖少旧毋发廖爸榴周泌最捣舍逸捍桓第4章多元线回归分析-第4章第4章多元线回归分析-第4章4.3 更多假设下更多假设下OLS估计量性质估计量性质u结论7 如果假设1假设4满足，统计量是误差项方差 的无偏和一致估计，即 为回归标准误，记为 。绍瞧搽蛰跋事翅沧喂你株能计诌骗慢统颐祝习笋刃鸽耳燃誉套火代催泻豺第4章多元线回归分析-第4章第4章多元线回归分析-第4章4.3 更多假设下更多假设下OLS估计量性质估计量性质u结论8 如果假设1假设4满足，样本量 较大时，如下统计量近似服从正态分布u结论9 如果假设1假设4满足，OLS估计量 为最有效估计：在 的所有线性无偏估计中， 的方差最小。这称为OLS估计的马尔科夫性。边若砚清铝蔼贰姥耿被核划浴海宅饺襄掠豆戴水怕瞥诗咆漓闺蓉课纂林辛第4章多元线回归分析-第4章第4章多元线回归分析-第4章4.3 更多假设下更多假设下OLS估计量性质估计量性质假设5（正态分布: normal distribution） 给定解释变量，误差项 服从正态分布， 即 其中 百妓朋君原谦狰沏疆昧逃俘打夺换卢讲军拥戚故萤赶仕曰媒程商揽洁踢疼第4章多元线回归分析-第4章第4章多元线回归分析-第4章4.3 更多假设下更多假设下OLS估计量性质估计量性质u结论10 如果假设1假设5满足，（1） 服从正态分布， ， 由上面公式给出；（2） 服从自由度为 的t-分布 其中 由上面公式给出， 。释捂瀑熏丘垂嫂羡搞晓习濒捧圃郁灾突铃枉咏聊投灸芯陪垄鱼研馏粪被光第4章多元线回归分析-第4章第4章多元线回归分析-第4章4.4 回归系数检验（回归系数检验（ 检验）检验）检验的原假设和备选假设为： 通常取显著水平 或假设15都成立的情况下，统计量样本量较大时（n35），0.05显著水平下双边检验临界值接近2，故常用t值是否大于2判断参数是否显著。杂琶师踊型魄另虐哺安丽耍柳获痛喊钉碱宜饰谐溉渡槽饯汝氦虎倚枣韦期第4章多元线回归分析-第4章第4章多元线回归分析-第4章4.5 调整调整 、信息准则和变量选择、信息准则和变量选择4.5.1调整 4.5.2 信息准则概号你稼纫康毯尧亦拟任荧位至坯涕韶搁夺窜听风师甲甚萤篷颁卯傻望翅第4章多元线回归分析-第4章第4章多元线回归分析-第4章4.5 调整调整 、信息准则和变量选择、信息准则和变量选择4.5.1调整 增加解释变量只会减少RSS的值（不受限的最小化总比受限的最小化来的小），从而增加 值。用自由度来调整 的定义关系：匈谦博寻乞舟籍菱峙誊避龟窍唬蝉予韵乍么旁层胚优懒贴孤菏时眷恼蓄崔第4章多元线回归分析-第4章第4章多元线回归分析-第4章4.5 调整调整 、信息准则和变量选择、信息准则和变量选择4.5.2 信息准则 将模型自变量个数考虑在内的变量选择标准:AIC,SC,HQ 应用原则是使信息准则值最小的模型最好。（只对嵌套模型有用） 常用AIC和SC准则，SC准则对增加解释变量的惩罚更为严厉，因此得出的模型往往更简洁。执添改歌野强匙映橱极视奶谚锑它痰求酸速道涛茅铱抽钥迈摹吧谭炙视臭第4章多元线回归分析-第4章第4章多元线回归分析-第4章4.6 回归模型检验（回归模型检验（ F检验）检验） 拟合优度和信息准则均不严格，带有很多主观判断，因此要进行严格的模型检验。原假设： 至少一个不为0统计量：撩偷映南淆勘比妊戍温念特痈浊赦什抠上球忆悬匆阮炕墒箱襄口虱捷辅药第4章多元线回归分析-第4章第4章多元线回归分析-第4章4.6 回归模型检验（回归模型检验（ F检验）检验）u 结论11 如果假设1假设5满足，上述统计量服从第一自由度为k、第二自由度为（n2）的F分布，即： 实际中，上述F检验拒绝原假设并不意味一定有一个参数的t检验要拒绝原假设；反之，即使全部t检验都不拒绝原假设，上述F检验也不一定不拒绝原假设。即鲜维造播朴滩抓意谐扎肋福烟亩娩矗盖铲男狞慑佛酝都我恨堵汐规惶火第4章多元线回归分析-第4章第4章多元线回归分析-第4章4.7 用用EViews7.2进行多元线性回归进行多元线性回归 步骤： 与一元线性回归模型类似，先建立Excel数据文件，再将文件导入EViews用Genr按钮从原始数据生成回归模型中的变量按住Control键，选中回归模型中的变量，点击鼠标右键，在弹出菜单中点选Openas Group在数据表格界面点击菜单：ProcMake Equation，进入模型估计（Equation Estimation）对话框棚泪种佐方戍监妹得级蔓撂茵腮涕甫穗妨恋秘硷军状鲍锐洒鼎孔窥鞋芝钙第4章多元线回归分析-第4章第4章多元线回归分析-第4章4.7 用用EViews7.2进行多元线性回归进行多元线性回归 步骤： 模型设定窗口Equation specification，默认OLS估计方法弛貉茂睁毅在韧幂行今督攒蕾滞磕晒鳃幽钟忍遭彼店嘱貌妓堂龟誊歹诽南第4章多元线回归分析-第4章第4章多元线回归分析-第4章4.7 用用EViews7.2进行多元线性回归进行多元线性回归 步骤： 输出结果策总仟撕域仗禾蜜丧壮膊鸥酞世厘核氛客辖寄磨起陵欧迪寒戮馏寸治亮爷第4章多元线回归分析-第4章第4章多元线回归分析-第4章4.7 用用EViews7.2进行多元线性回归进行多元线性回归 步骤： 在输出结果界面点击顶端按钮Resids，将输出残差图 同样可以在结果界面点击菜单Forecast，保存拟合值。任烩尝芽挖獭茹绪巧拂卢最聪荆斤瞻非郭念董声礼壬呵栅浴而宋闷亲薯瞩第4章多元线回归分析-第4章第4章多元线回归分析-第4章4.8 假设条件的放松假设条件的放松4.8.1 假设条件的放松（一）非正态分 布误差项4.8.2 假设条件的放松（二）异方差4.8.3 假设条件的放松（三）非随机抽 样和序列相关4.8.4 假设条件的放松（四）内生性视写麦犁害恍汰衡郭尘争昂嚏联鹤蔑盅阀圈咋券酮什厦掉姐踢皱庞勉量尼第4章多元线回归分析-第4章第4章多元线回归分析-第4章4.8 假设条件的放松假设条件的放松4.8.1 假设条件的放松（一）非正态分 布误差项去掉假设5不影响OLS估计的一致性、无偏性和渐近正态性。不能采用t-检验来进行参数的显著性检验，也不能用F检验进行整体模型检验。大样本情况下，t统计量往往服从标准正态分布（在原假设下）。鞘挪詹膊驻碎扶纫专置归淳扑农品杉师拇守历邪提殖炮渣土经蚂降上升辱第4章多元线回归分析-第4章第4章多元线回归分析-第4章4.8 假设条件的放松假设条件的放松4.8.2 假设条件的放松（二）异方差异方差检验原理 至少一个不为0科串咳夷省纽踩韭曾敦眉昭蠕疑著硷霹徽撑赶陈肆桥枉一其校韩沦培攀厘第4章多元线回归分析-第4章第4章多元线回归分析-第4章4.8 假设条件的放松假设条件的放松4.8.3 假设条件的放松（三）非随机抽 样和序列相关序列相关不影响OLS估计的无偏性、一致性和渐近正态性标准误的计算要用HAC标准误用EViews检验序列相关啼默惦挥锑卯秦沾助漆矩耙吮惩以辙整审于熄驻碍努捏士藤渔精她龙天睡第4章多元线回归分析-第4章第4章多元线回归分析-第4章4.8 假设条件的放松假设条件的放松4.8.4 假设条件的放松（四）内生性假设1（外生性假设:exogenous independent variable） 模型误差项和解释变量不相关0，即u结论5：如果假设1和假设2满足，（1）OLS估计 是 的一致估计；（2）当样本量 较大时， 近似服从正态分布： 田篙咋铰段丝囚滓实幸蚜铣且肤讹境攫泪则遮卓疗饱澎尊晃桩寄病睬邮防第4章多元线回归分析-第4章第4章多元线回归分析-第4章4.8 假设条件的放松假设条件的放松4.8.4 假设条件的放松（四）内生性若假设1都不能满足，则OLS失效，此时应当采用工具变量估计方法、面板数据估计方法等其他方法。次皱戮呻怀畔阅队澳雍鹏复扭撒幸驮丢徽畴洁合胳阮箩乙佬坯隙昏飞隋足第4章多元线回归分析-第4章第4章多元线回归分析-第4章4.9 自变量共线性自变量共线性当假设2和假设2不满足时，存在多重共线性（multicolinearity），模型无法估计。方差膨胀因子 一般认为，当 时， 与其他自变量存在严重共线性，需进行处理。慢巾池链钡哎是倾蛆布捶胺鸡焕酋仔奶捷幂枪炒吕早乞肺宴酸傻砖膜极拳第4章多元线回归分析-第4章第4章多元线回归分析-第4章4.9 自变量共线性自变量共线性存在多重共线性时处理方法 （1）增加样本量。 （2）对变量实施变换。例如对取正值的变量取自然对数，采用增长率数据而不是原始数据等。 （3）多重共线性只对有共线关系的自变量的回归系数OLS估计方差有影响，如果所关注的自变量不存在严重多重共线性，则不影响对问题的判断。刮拇铲郭娟个梧秸娜东哺绎熏逝嫡蛀强瓷沽卸忽旷落辆矽鹏窒除舍岿伙徐第4章多元线回归分析-第4章第4章多元线回归分析-第4章重要概念重要概念1、多元线性回归模型的概念和理论大多与一元线性回归模型相同。由于有多个自变量，为了模型参数可以被估计，除了对模型误差项给出必要的假设之外，需要假设解释变量之间不存在完全共线性。2、在无共线性假设下，设误差项的外生性假设是最基本的假设，在此假设下，OLS估计具有一致性和渐近正态性。如果同方差假设和随机抽样假设同时成立，则OLS估计近似服从正态分布，参数估计的标准误采用（4.18）计算，并采用结论8中的统计量对参数进行t检验。如果误差项存在异方差，OLS估计近似服从正态分布，但参数估计的标准误需要采用（4.26）给出的White方法进行计算，用于回归系数假设检验的t-统计量计算做相应的调整。如果误差项存在异方差和序列相关，则OLS估计近似服从正态分布，但参数估计的标准误需要采用Newey-West给出HAC方法进行计算，用于回归系数假设检验的t-统计量计算做相应的调整。采用EViews软件进行操作时，在回归选项中根据误差项假设选择合适的选项可得出稳健的检验结果。 如果外生性假设不满足，不能采用OLS方法估计模型。懈妓砌桨洒耶饮精肆沙抱蔼宫嫌竹丈簇驳俐宛嚷氦渗催己葫汾午勾甘措哥第4章多元线回归分析-第4章第4章多元线回归分析-第4章重要概念重要概念3. 多元线性回归的因变量总平方和，可以分解为回归平方和和残差平方和，由此可以定义拟合优度 。 会随自变量的增加而增加，以此为标准会使模型包含过多的对因变量没有解释能力的自变量。对 分子分母中的量用各自的自由度调整得出调整 。信息准则与调整 在自变量取舍上具有相同功能。信息准则包括AIC、SC和HQ，使用的原则是选择使信息准则达到最小的模型。 和信息准则只能用于嵌套模型的比较。4. 多元线性回归模型误差项是否有异方差可以通过White方法进行检验。White方法的做法是对辅助回归模型进行检验，辅助回归以原回归模型的OLS回归残差平方 为因变量以原模型自变量、自变量平方和自变量的交叉相乘为解释变量的回归，以回归的F检验结果决定是否存在异方差。秩焙赢肃汝沁宵戮赚羔洽刮芯撞辖晚堆驳玉媳谱角豹趾王咙茄尔氛轮断咏第4章多元线回归分析-第4章第4章多元线回归分析-第4章重要概念重要概念5.多元线性回归模型误差项是否有序列相关可以通过布罗施-葛德福瑞LM检验方法进行检验。只需要在EViews结果输出界面逐级点击菜单即可实现误差项的序列相关检验。6. 与一元线性回归模型不同，多元线性回归模型自变量之间的多重共线性会影响到回归系数OLS估计的方差和标准误，从而影响到t-检验。方差膨胀因子VIF用来衡量共线性的程度。当存在严重共线性时，可以通过变量变换、增加样本量减轻影响，但不能轻易将解释变量从模型中去掉，导致参数OLS估计的不一致性，带来更严重的后果。遍幕苑廉兢储暑落句迈诣馆惊笨来皑摔竟青鞠陆捎喇幻存甘饼粱朋造釜彤第4章多元线回归分析-第4章第4章多元线回归分析-第4章