线性回归分析2011/9/10zhaoswallow2一、引言2004年全国数模竞赛的B题 “电力市场的 输电阻塞管理” 第一个问题：某电网有8台发电机组，6条主要线路， 表 1和表2中的方案0给出了各机组的当前出力和 各线路上对应的有功潮流值，方案132给出了 围绕方案0的一些实验数据，试用这些数据确 定各线路上有功潮流关于各发电机组出力的近 似表达式。 2011/9/10zhaoswallow3表1 各机组出力方案 （单位：兆瓦，记作MW）方案机组123 4 5 6780120731808012512581.1901133.02731808012512581.1902129.63731808012512581.1903158.77731808012512581.1904145.32731808012512581.190512078.5961808012512581.190612075.451808012512581.190712090.4871808012512581.190812083.8481808012512581.190912073231.398012512581.1901012073198.488012512581.1901112073212.648012512581.1901212073190.558012512581.190131207318075.85712512581.190141207318065.95812512581.190151207318087.25812512581.190161207318097.82412512581.190171207318080150.7112581.1902011/9/10zhaoswallow4181207318080141.5812581.190191207318080132.3712581.190201207318080156.9312581.190211207318080125138.8881.190221207318080125131.2181.190231207318080125141.7181.190241207318080125149.2981.19025120731808012512560.5829026120731808012512570.9629027120731808012512564.8549028120731808012512575.5299029120731808012512581.1104.8430120731808012512581.1111.2231120731808012512581.198.09232120731808012512581.1120.442011/9/10zhaoswallow5表2 各线路的潮流值（各方案与表1相对应，单位：MW）方案线路1234560164.78140.87-144.25119.09135.44157.691165.81140.13-145.14118.63135.37160.762165.51140.25-144.92118.7135.33159.983167.93138.71-146.91117.72135.41166.814166.79139.45-145.92118.13135.41163.645164.94141.5-143.84118.43136.72157.226164.8141.13-144.07118.82136.02157.57165.59143.03-143.16117.24139.66156.598165.21142.28-143.49117.96137.98156.969167.43140.82-152.26129.58132.04153.610165.71140.82-147.08122.85134.21156.2311166.45140.82-149.33125.75133.28155.0912165.23140.85-145.82121.16134.75156.7713164.23140.73-144.18119.12135.57157.214163.04140.34-144.03119.31135.97156.3115165.54141.1-144.32118.84135.06158.262011/9/10zhaoswallow624167.69138.07-144.14119.19137.11157.6525162.21141.21-144.13116.03135.5154.2626163.54141-144.16117.56135.44155.9327162.7141.14-144.21116.74135.4154.8828164.06140.94-144.18118.24135.4156.6829164.66142.27-147.2120.21135.28157.6530164.7142.94-148.45120.68135.16157.6331164.67141.56-145.88119.68135.29157.6132164.69143.84-150.34121.34135.12157.6416166.88141.4-144.34118.67134.67159.2817164.07143.03-140.97118.75133.75158.8318164.27142.29-142.15118.85134.27158.3719164.57141.44-143.3119134.88158.0120163.89143.61-140.25118.64133.28159.1221166.35139.29-144.2119.1136.33157.5922165.54140.14-144.19119.09135.81157.6723166.75138.95-144.17119.15136.55157.592011/9/10zhaoswallow7仔细分析题目，可以发现，该问题就是要找 出各线路上有功潮流与8台发电机出力的函数关 系，这在数学上是一个函数拟合问题。对函数拟合，可以采用线性函数，也可以采 用非线性函数，比如多项式函数，三角函数，指 数函数等等。在给出具体问题的具体数据时，首 先想到的还是最简单的方法下手，采用最简单的 函数去拟合，也就是线性函数来表达。1、模型的分析2011/9/10zhaoswallow8由电网的拓扑结构，线路上的有功潮流由 机 组出力决定。又根据功率的叠加原理，各线路 上有功潮流应为各发电机组出力的线性组合， 考虑对所有实验数据采用最小二乘法进行线性 拟合，从而得到各线路有功潮流关于各发电机 组出力的近似表达式。2011/9/10zhaoswallow92、模型的建立与求解2011/9/10zhaoswallow10根据表1和表2围绕方案0的1-32组实验数 据，可以列出关于未知数的32个方程的方程 组，利用SAS或Matlab编程求解方程组，得2011/9/10zhaoswallow11还需要根据样本值运用假设检验来判断， 以确定求得的回归方程是否有价值。在许多国际国内数学建模竞赛中，都有可能用到回归分析。因此 ，我们介绍线性回归分析的基本原理，对模型好坏的评价指标，可线性 化的回归分析，利用统计软件的实现等具体问题。2011/9/10zhaoswallow12二、回归分析方法 回归分析是研究一个或一组变量（因变量， 结果）与另一些变量（自变量或回归变量， 原因）之间的依存关系。 在回归模型中，若变量之间的关系是线性关系 ，称为线性回归模型，否则，称为非线性回归 模型。 当自变量只有一个，称为一元线性回归， 如果 自变量有多个，称为多元线性回归。2011/9/10zhaoswallow131、一元线性回归一元线性回归模型为满足2011/9/10zhaoswallow14一元线性回归2011/9/10zhaoswallow15则令正规方程组一元线性回归2011/9/10zhaoswallow16整理得一元线性回归2011/9/10zhaoswallow17其中，参数的最小二乘估计一元线性回归2011/9/10zhaoswallow18称作y关于x的一元经验回归方程。一元线性回归2011/9/10zhaoswallow19一元线性回归2011/9/10zhaoswallow20一元线性回归2011/9/10zhaoswallow212、多元线性回归模型为 ： 2011/9/10zhaoswallow22多元线性回归2011/9/10zhaoswallow23令多元线性回归注意：矩阵X的第一 列全是1.2011/9/10zhaoswallow24则（6）可用矩阵表达为多元线性回归2011/9/10zhaoswallow25对应正规方程组为 在X不是列满秩时，其解虽然不唯一，但对任意一组解都使得残差平方和最 小。多元线性回归2011/9/10zhaoswallow26多元线性回归关于多重共线性的知识请参阅韩中庚数学建模方法及其应用。2011/9/10zhaoswallow27当 p=1 时，多元线性回归就变成一元线性回 归分析了，这时参数的求解和误差的方差的无偏估 计与一元得到的结论是一样的，类似地也有经验回 归平面方程。多元线性回归2011/9/10zhaoswallow283、回归模型的假设检验在许多实际问题中，我们事先并不能断定 因变量与自变量之间是否确有线性关系，而前 面建立的因变量与多个自变量间的线性关系只 是一种假设，尽管这种假设常常不是没有根据 的。这就意味，所求得的经验回归方程是否有 实用价值，需要经过假设检验才能确定。2011/9/10zhaoswallow29主要从以下几个方面进行检验 ： a、 回归方程的检验； b、 回归系数的检验； c、 回归好坏程度的度量。2011/9/10zhaoswallow30a、回归方程的检验是否全为零。若全为零，则认为线性回归不 显著，否则认为线性回归显著。为此，在上 述模型中作假设要检验（6）的变量间有没有这种线性关系， 只要检验p个系数2011/9/10zhaoswallow31考虑总偏差平方和，利用正规方程组，有为了构造检验统计量，记经验回归方程回归方程的检验2011/9/10zhaoswallow32回归方程的检验2011/9/10zhaoswallow33它是由自变量X的取值变化且通过线性回 归模型对y的影响所构成的误差平方和。它是由随机误差和其他未加控制的因素所引起的误差平方和。回归方程的检验2011/9/10zhaoswallow34回归方程的检验2011/9/10zhaoswallow35构造检验统计量为回归方程的检验2011/9/10zhaoswallow36相应的检验法则为：回归方程的检验2011/9/10zhaoswallow37不全为零，但这并不意味着每个自变量可能会起重要作用，而有的可能起的作用不大 或者不起作用。因此，在通过前面的线性回归模型的检验，回归方程的检验2011/9/10zhaoswallow38还有必要从线性回归模型中剔除那些次要 的、 可有可无的自变量，只保留那些起重要作用的自变量，以从新建立更为简练的线性回归模型，使之有利于实际应用。回归方程的检验2011/9/10zhaoswallow39b、回归系数的检验检验假设2011/9/10zhaoswallow40下面的任务是选取检验统计量。由（7）所以，回归系数的检验2011/9/10zhaoswallow41则可以证明注意：矩阵C的下标都 是从0开始的！回归系数的检验2011/9/10zhaoswallow42回归系数的检验2011/9/10zhaoswallow43如果回归方程