3.1回归分析的基本思想及其初步 应用高二数学 选修1-2问题1：正方形的面积y与正方形的边长x之间的函数关系是 y = x2确定性关系 问题2：某水田水稻产量y与施肥量x之间是否有一个确定性的关系？ 例如：在 7 块并排、形状大小相同的试验田上进行施肥量对水稻产量影响的试验，得到如下所示的一组数据：施化肥量x 15 20 25 30 35 40 45水稻产量y 330 345 365 405 445 450 455复习、变量之间的两种关系10 20 30 40 50500450400350300施化肥量x 15 20 25 30 35 40 45水稻产量y 330 345 365 405 445 450 455xy施化肥量水稻产量2、现实生活中存在着大量的相关关系。如：人的身高与年龄；如：人的身高与年龄；产品的成本与生产数量；产品的成本与生产数量；商品的销售额与广告费；商品的销售额与广告费；家庭的支出与收入。等等家庭的支出与收入。等等探索：水稻产量y与施肥量x之间大致有何规律？10 20 30 40 50500450400350300发现：图中各点，大致分布在某条直线附近。探索2：在这些点附近可画直线不止一条，哪条直 线最能代表x与y之间的关系呢？施化肥量x 15 20 25 30 35 40 45水稻产量y 330 345 365 405 445 450 455xy 散点图施化肥量水稻产量1、所求直线方程叫做回归直线方程；相应的直线叫做回归直线。2、对两个变量进行的线性分析叫做线性回归分析。2、回归直线方程：最小二乘法：称为样本点的中心。自变量取值一定时，因变量的取值带有一定随机性的两个变量之间的关系叫做相关关系。1、定义：1）：相关关系是一种不确定性关系；注对具有相关关系的两个变量进行统计分析的方法叫回归分析。2）：例2、在一段时间内，某中商品的价格x元和需求量Y件之间 的一组数据为：试建立Y与x的回归直线方程。价格x1416182022需求量Y1210753解：例1 从某大学中随机选取8名女大学生，其身高和体重数据如表1-1所示。 编号12345678 身高cm 165 165 157 170 175 165 155 170 体重/kg4857505464614359求根据一名女大学生的身高预报她的体重的回归方程，并预报一名身高为 172cm的女大学生的体重。案例1：女大学生的身高与体重解：1、选取身高为自变量x，体重为因变量y，作散点图： 2、由散点图知道身高和体重有比较 好的线性相关关系，因此可以用线性 回归方程刻画它们之间的关系。分析：由于问题中 要求根据身高预报 体重，因此选取身 高为自变量，体重 为因变量2.回归方程：1. 散点图；本例中, r=0.7980.75这表明体重与身高有很强的线性相关关 系，从而也表明我们建立的回归模型是有意义的。探究： 身高为172cm的女大学生的体重一定是60.316kg吗 ？如果不是，你能解析一下原因吗？答：身高为172cm的女大学生的体重不一定是 60.316kg，但一般可以认为她的体重接近于 60.316kg。即，用这个回归方程不能给出每个身高为172cm 的女大学生的体重的预测值，只能给出她们平均 体重的值。例1 从某大学中随机选取8名女大学生，其身高和体重数据如表1-1所示。 编号12345678 身高/cm 165 165 157 170 175 165 155 170 体重/kg4857505464614359求根据一名女大学生的身高预报她的体重的回归方程，并预报一名身高为 172cm的女大学生的体重。案例1：女大学生的身高与体重解：1、选取身高为自变量x，体重为因变量y，作散点图： 2、由散点图知道身高和体重有比较 好的线性相关关系，因此可以用线性 回归方程刻画它们之间的关系。3、从散点图还看到，样本点散布在 某一条直线的附近，而不是在一条 直线上，所以不能用一次函数 y=bx+a描述它们关系。我们可以用下面的线性回归模型来表示：y=bx+a+e， (3)其中a和b为模型的未知参数，e称为随机误差。统计中，我们把自变量x称为解释变量，因变量y 称为预报变量思考: 产生随机误差项e的原因是什么？随机误差e的来源(可以推广到一般）： 1、忽略了其它因素的影响：影响身高 y 的因素不只 是体重 x，可能还包括遗传基因、饮食习惯、生 长环境等因素； 2、用线性回归模型近似真实模型所引起的误差； 3、身高 y 的观测误差。以上三项误差越小，说明我们的回归模型的拟合 效果越好。函数模型与回归模型之间的差别函数模型： 回归模型：函数模型与回归模型之间的差别 函数模型： 回归模型：线性回归模型y=bx+a+e增加了随机误差项e，因变量y的值由自变量x和 随机误差项e共同确定，即自变量x只能解释部分y的变化。在统计中，我们也把自变量x称为解释变量，因变量y称为预报变量。所以，对于身高为172cm的女大学生，由回归方程可以预报其体重为思考： 如何刻画预报变量（体重）的变化？这个变化在多大程度上 与解释变量（身高）有关？在多大程度上与随机误差有关？假设身高和随机误差的不同不会对体重产生任何影响，那么所有人的体重将相 同。在体重不受任何变量影响的假设下，设8名女大学生的体重都是她们的平均值， 即8个人的体重都为54.5kg。54.554.554.554.554.554.554.554.5体重/kg170155165175170157165165身高/cm87654321编号54.5kg在散点图中，所有的点应该落在同一条 水平直线上，但是观测到的数据并非如 此。这就意味着预报变量（体重）的值 受解释变量（身高）或随机误差的影响。对回归模型进行统计检验5943616454505748体重/kg170155165175170157165165身高/cm87654321编号例如，编号为6的女大学生的体重并没有落在水平直线上，她的体重为61kg。解释 变量（身高）和随机误差共同把这名学生的体重从54.5kg“推”到了61kg，相差6.5kg， 所以6.5kg是解释变量和随机误差的组合效应。编号为3的女大学生的体重并也没有落在水平直线上，她的体重为50kg。解释 变量（身高）和随机误差共同把这名学生的体重从50kg“推”到了54.5kg，相差-4.5kg， 这时解释变量和随机误差的组合效应为-4.5kg。用这种方法可以对所有预报变量计算组合效应。数学上，把每个效应（观测值减去总的平均值）的平方加起来，即用表示总的效应，称为总偏差平方和。在例1中，总偏差平方和为354。5943616454505748体重/kg170155165175170157165165身高/cm87654321编号那么，在这个总的效应（总偏差平方和）中，有多少来自于解释变量（身高）？ 有多少来自于随机误差？假设随机误差对体重没有影响，也就是说，体重仅受身高的影响，那么散点图 中所有的点将完全落在回归直线上。但是，在图中，数据点并没有完全落在回归 直线上。这些点散布在回归直线附近，所以一定是随机误差把这些点从回归直线上 “推”开了。在例1中，残差平方和约为128.361。因此，数据点和它在回归直线上相应位置的差异 是随机误差的效应， 称 为残差。例如，编号为6的女大学生，计算随机误差的效应（残差）为：对每名女大学生计算这个差异，然后分别将所得的值平方后加起来，用数学符号称为残差平方和，它代表了随机误差的效应。表示为：由于解析变量和随机误差的总效应（总偏差平方和）为354，而随机误差的效应为 128.361，所以解释变量的效应为解释变量和随机误差的总效应（总偏差平方和）=解释变量的效应（回归平方和）+随机误差的效应（残差平方和）354-128.361=225.639这个值称为回归平方和。我们可以用相关指数R2来刻画回归的效果，其计算公式是离差平方和的分解（三个平方和的意义） 总偏差平方和(SST) 反映因变量的 n 个观察值与其均值的总离 差 回归平方和(SSR) 反映自变量 x 的变化对因变量 y 取值变化 的影响，或者说，是由于 x 与 y 之间的线性关 系引起的 y 的取值变化，也称为可解释的平方 和 残差平方和(SSE) 反映除 x 以外的其他因素对 y 取值的影响 ，也称为不可解释的平方和或剩余平方和样本决定系数（判定系数 R R2 2）1.回归平方和占总离差平方和的比例2. 2. 反映回归直线的拟合程度反映回归直线的拟合程度 3. 3. 取值范围在取值范围在 0 , 1 0 , 1 之间之间 4. 4. R R2 2 1 1，说明回归方程拟合的越好；说明回归方程拟合的越好；R R2 20 0 ，说明回归方程拟合的越差说明回归方程拟合的越差 5. 5. 判定系数等于相关系数的平方，即判定系数等于相关系数的平方，即R R2 2( (r r) )2 2显然，R2的值越大，说明残差平方和越小，也就是说模型拟合效果越好。在线性回归模型中，R2表示解析变量对预报变量变化的贡献率。R2越接近1，表示回归的效果越好（因为R2越接近1，表示解释变量和预报变量的 线性相关性越强）。如果某组数据可能采取几种不同回归方程进行回归分析，则可以通过比较R2的值 来做出选择，即选取R2较大的模型作为这组数据的模型。总的来说： 相关指数R2是度量模型拟合效果的一种指标。 在线性模型中，它代表自变量刻画预报变量的能力。我们可以用相关指数R2来刻画回归的效果，其计算公式是1354总计0.36128.361残差变量0.64225.639随机误差比例平方和来源表1-3从表3-1中可以看出，解释变量对总效应约贡献了64%，即R2 0.64，可以叙述为 “身高解析了64%的体重变化”，而随机误差贡献了剩余的36%。所以，身高对体重的效应比随机误差的效应大得多。我们可以用相关指数R2来刻画回归的效果，其计算公式是表3-2列出了女大学生身高和体重的原始数据以及相应的残差数据。在研究两个变量间的关系时，首先要根据散点图来粗略判断它们是否线性相关， 是否可以用回归模型来拟合数据。残差分析与残差图的定义：然后，我们可以通过残差 来判断模型拟合的效果，判断原始 数据中是否存在可疑数据，这方面的分析工作称为残差分析。编编号12345678 身高cm165165157170175165155170 体重/kg4857505464614359 残差-6.3732.6272.419-4.6181.1376.627-2.8830.382我们可以利用图形来分析残差特性，作图时纵坐标为残差，横坐标可以选为样本 编号，或身高数据，或体重估计值等，这样作出的图形称为残差图。残差图的制作及作用。 坐标纵轴为残差变量，横轴可以有不同的选择； 若模型选择的正确，残差图中的点应该分布在以 横轴为心的带形区域； 对于远离横轴的点，要特别注意。身高与体重残差图异常点 错误数据 模型问题几点说明：第一个样本点和第6个样本点的残差比较大，需要确认在采集过程中是否有人为 的错误。如果数据采集有错误，就予以纠正，然后再重新利用线性回归模型拟合数 据；如果数据采集没有错误，则需要寻找其他的原因。另外，残差点比较