Ch11 异方差性 Ch11 异方差性 11 1 异方差的性质异方差的性质 1 同方差 1 同方差 11 1 niuE i 1 2 同方差是指对于任意给定的同方差是指对于任意给定的X值值 与均值的分散程度是相同的 与均值的分散程度是相同的 对各样本点而言 被解释变量的条件方差 扰动的方差 相等 样本数据精度相同 对各样本点而言 被解释变量的条件方差 扰动的方差 相等 样本数据精度相同 2 异方差 2 异方差 11 2 niuE ii 1 2 称为异方差 称为异方差 对各样本点而言 被解释变量的条件方差 扰动的方差 随样本 点的不同而变化 样本数据精度是不同的 对各样本点而言 被解释变量的条件方差 扰动的方差 随样本 点的不同而变化 样本数据精度是不同的 11 8 Xi X1X2 Yi f Yi Consumption X3 The Heteroskedastic Case Income rich people poor people 图图11 1 异方差异方差 1 3 异方差的来源 3 异方差的来源 1 边干边学 如练习打字 其方差随着时间而减小 边干边学 如练习打字 其方差随着时间而减小 2 不同收入水平的人 其储蓄的方差不同 不同收入水平的人 其储蓄的方差不同 3 异常值异常值 outliers 的出现等可能导致异方差 的出现等可能导致异方差 4 数据采集技术的改进 数据采集技术的改进 5 解释变量分布的有偏性也可能导致异方差解释变量分布的有偏性也可能导致异方差 如收入的分布如收入的分布 6 不正确的数据变换或不正确的函数形式不正确的数据变换或不正确的函数形式 注意注意 异方差在横截面数据中 更容易出现 异方差在横截面数据中 更容易出现 例子例子 美国不同行业和不同规模美国不同行业和不同规模 按工人数按工人数 的报酬和标准差 的报酬和标准差 600 800 1000 1200 1400 30003500400045005000 MEAN STDEVIATION STDEVIATION vs MEAN 2 11 2 出现异方差时的出现异方差时的OLS 估计估计 对于二元模型对于二元模型 11 3 iii uXY 21 假定 假定 ii u var 其估计量为其估计量为 2 2 2 2 2 2 2 2 i i iii i ii i iii i ii x x kuk x ux x uuxx x yx 11 4 方差为方差为 var 22 2 22 2jijijii i i iii uuExx x x ukEE 2 2 22 22 ii ii xx x 11 5 上述结果可直接推广到多元模型 上述结果可直接推广到多元模型 在异方差的条件下 在异方差的条件下 OLS估计量仍是关于的线性估计 且是无 偏的 但不是最优的 估计量仍是关于的线性估计 且是无 偏的 但不是最优的 i y 即 另外存在某种线性无偏估计量有最小的估计方差 即 另外存在某种线性无偏估计量有最小的估计方差 在在OLS估计中 估计中 如果不考虑异方差 则参数方差的估计结果是错误的 如果不考虑异方差 则参数方差的估计结果是错误的 如果考虑了异方差 如果考虑了异方差 11 5 的方差在所有线性无偏估计量中不是 最小的 的方差在所有线性无偏估计量中不是 最小的 3 11 3 GLS 假定假定 i 已知 用它除 已知 用它除 11 3 有 有 1 21iiiiiii uXY 11 6 由于由于1 var ii u 故 故 11 6 为同方差 为同方差 记 求记 求 2 1 ii w 2 2 min min iiii uwu 故称为加权 最小二乘法 类似于 故称为加权 最小二乘法 类似于OLS 有 有 22 2 iiiii iiiiiiii XwXww YwXwYXww 11 7 var 22 2 iiiii i XwXww w 11 8 由于模型 由于模型 11 6 的同方差性和 的同方差性和0均值性等经典假设成立 所以 估 计量 均值性等经典假设成立 所以 估 计量 11 7 和对应的方差 和对应的方差 11 8 为无偏和最小方差 为无偏和最小方差 GLS估计量是线性无偏最优的估计量是线性无偏最优的 11 4 在存在异方差时在存在异方差时OLS的后果 的后果 在扰动具有异方差时 在扰动具有异方差时 OLS估计量仍是线性无偏的估计量仍是线性无偏的 但方差不是 最小的 但方差不是 最小的 OLS估计 不处理异方差性 对方差和标准误的估计是有偏的 从而 OLS估计 不处理异方差性 对方差和标准误的估计是有偏的 从而t检验和置信区间的结论是不可靠的 检验和置信区间的结论是不可靠的 OLS估计 考虑到异方差 置信区间偏大 估计 考虑到异方差 置信区间偏大 t和和F检验倾向于不显 著 检验倾向于不显 著 4 11 5 异方差的侦察异方差的侦察 1 作图法 作图法 作图法是对于有无异方差的一个大致判断 尚不能作为一个严格 的异方差证据 严格的证据应源于检验结论 作图法是对于有无异方差的一个大致判断 尚不能作为一个严格 的异方差证据 严格的证据应源于检验结论 1 散点图 散点图 图图11 2 很可能存在异方差 很可能存在异方差 图图11 3 不存在异方差 不存在异方差 11 7 Heteroskedastic pattern of errors Xi Yi Income Consumption 图图11 2 散点图 异方差散点图 异方差 5 11 5 Homoskedastic pattern of errors Xi Yi Income Consumption 图图11 3 散点图 同方差散点图 同方差 2 残差图 残差图 60 40 20 0 20 40 60 50100 150 200 250 300 350 400 450 500 CN Residuals 6 3 2 1 0 1 2 3 50100 150 200 250 300 350 400 450 500 CN Residuals 另一方面另一方面 从方差定义从方差定义 也可对残差的平方与绘在平面图上 即可大致判断与是否随的变化而变化 也可对残差的平方与绘在平面图上 即可大致判断与是否随的变化而变化 2 i u i Y 2 i u i Y i Y 7 0 400 800 1200 1600 2000 2400 0100200300400500600 CNF RES2 0 2 4 6 8 10 12 0100200300400500600 CNF RES2 8 2 帕克帕克 Park 检验 检验 通常而言 与或可能存在某种对应关系 故帕克建议 通常而言 与或可能存在某种对应关系 故帕克建议 2 iu i Y i X 11 9 i v ii eX 22 对 对 11 9 取对数 即有对应的对数线性模型 取对数 即有对应的对数线性模型 2 i 一般是未知的 使用估计残差的平方替代 有 一般是未知的 使用估计残差的平方替代 有 iiiii vXvXu lnlnln ln 22 11 10 若若 在统计上是显著的 表明残差有异方差 在统计上是显著的 表明残差有异方差 即拒绝即拒绝H0 0 则为异方差则为异方差 受受H0 则同方差 则同方差 说明说明 帕克检验的问题 帕克检验的问题 1 需要确定作为比例因子的解释变量 需要确定作为比例因子的解释变量 2 辅助回归中的扰动项本身有可能不满足 辅助回归中的扰动项本身有可能不满足OLS经典假定 并且可能有异方差 经典假定 并且可能有异方差 i v 例例 11 1 工资工资 Y 与生产率与生产率 X 从业人数从业人数 的关系的关系 9 模型模型 Y 1 1 2 2X u Dependent Variable Y Method Least Squares Date 09 24 04 Time 16 58 Sample adjusted 1 9 Included observations 9 after adjusting endpoints Variable CoefficientStd Errort StatisticProb C 1992 062936 61232 1268800 0710 X 0 2329990 0998532 3334280 0523 R squared 0 437520 Mean dependent var 4161 778 Adjusted R squared 0 357166 S D dependent var 420 6625 S E of regression 337 2744 Akaike info criterion 14 67280 Sum squared resid 796278 0 Schwarz criterion 14 71663 Log likelihood 64 02760 F statistic 5 444885 Durbin Watson stat 0 616592 Prob F statistic 0 052349 Park 检验结果 检验结果 Dependent Variable LNUU Method Least Squares Date 09 24 04 Time 17 02 Sample adjusted 1 9 Included observations 9 after adjusting endpoints Variable CoefficientStd Errort StatisticProb C 35 8268638 322730 9348720 3810 LOG X 2 8020234 196134 0 6677630 5257 R squared 0 059886 Mean dependent var 10 23844 Adjusted R squared 0 074416 S D dependent var 1 414819 S E of regression 1 466517 Akaike info criterion 3 796787 Sum squared resid 15 05470 Schwarz criterion 3 840615 Log likelihood 15 08554 F statistic 0 445907 Durbin Watson stat 1 137101 Prob F statistic 0 525681 结论结论 由于 由于 LOG X 的系数不显著 所以接受原假设即不存在异 方差 的系数不显著 所以接受原假设即不存在异 方差 Glejser 对帕克检验的扩展 对帕克检验的扩展 10 iii Xu 21 i i i Xu 21 i i i X u 1 21 i i i X u 1 21 iii Xu 21 iii Xu 2 21 3 等级相关检验等级相关检验 1 对残差 对残差 i u 或 或 同时按递增 或递减 排序 其序号 分别记为 同时按递增 或递减 排序 其序号 分别记为Nui NyiNui Nyi 令 被成为等级差 令 被成为等级差 i Y i X iii YNNud 2 计算级差相关系数 2 计算级差相关系数 1 61 2 2 nn d r i s 3 在 n 8 时 3 在 n 8 时 2 1 2 2 nt r nr t s r 原假设 同方差原假设 同方差 备选假设 异方差 备选假设 异方差 例 例 11 样 本 号 样 本 号 1 1 2 2 3 3 4 4 5 5 6 6 7 7 8 8 9 9 10 10 i u 1 03 1 03 1 24 1 24 0 2 0 2 0 220 220 260 260 590 590 830 830 1 0 1 0 06 0 06 0 030 03 NuiNui 9 9 10 10 4 4 5 5 6 6 7 7 8 8 3 3 2 2 1 1 i X 12 1 12 1 21 4 21 4 18 7 18