第5次 最正确平方迫近与曲线拟合最小二乘法计算方法计算方法(Numerical Analysis)第1页主要内容最正确平方迫近曲线拟合最小二乘法 第2页最正确平方迫近第3页函数迫近类型最正确一致迫近：使用多项式对连续函数进行一致迫近。迫近误差使用范数度量。最正确平方迫近：使用多项式s(x)对连续函数f(x)进行平方迫近。迫近误差使用范数度量。权函数这种度量太强第4页练习：第5页权函数定义权函数(x)和基函数乘法积分权函数非0性质第6页权函数意义：强化或弱化某部分积分函数值影响。比如：在0,5上，取 则积分起到了弱化g(x)在区间0,1函数值，强化g(x)在区间1,5函数值作用。离散权函数：在学生成绩系统中总分=a*平时分+b*试验分+c*作业分+d*期末分比如，老师录入系数：a=0.1，b=0.2,c=0.1,d=0.6，则a,b,c,d即为离散权函数。第7页由内积能够定义范数(度量)：内积定义：第8页4 最正确平方迫近满足连续函数最正确平方多项式迫近第9页讨论：最正确平方多项式迫近：采取1,x,x2,xn 作为基函数，由此生成多项式对f(x)进行平方迫近.中函数对已知连续函数f(x)进行迫近。作为基函数。普通情况下：采取线性无关连续函数由此生成线性空间第10页连续函数在线性空间最正确平方迫近【注】第11页为了求极值，设(3.3)第12页展开成方程组形式：或写成矩阵形式：第13页从而应该是f(x)最正确平方迫近函数。计算积分第14页结论:2)迫近误差公式（证实推导，见下页）：1)是f(x)在集合 上最正确平方迫近函数。证实（略）第15页迫近误差公式证实只需证实依据之前S*(x)存在性证实过程中得到(3.3)式，即：证实完成。即：整理上式，得第16页第17页推导在最终一页PPT得最正确平方迫近多项式为：第18页11红色同学们自己求一下第19页第20页1/4110.371.02Home第21页曲线拟合最小二乘法第22页 3.4.曲线拟合最小二乘法 若已知f(x)在点xi(i=1,2,n)处值yi,便可依据插值原理来建立插值多项式作为f(x)近似。但在科学试验和生产实践中，往往会碰到下述情况：1)节点上函数值是由试验或观察得到数据，带有 测量误差，若要求近似函数曲线经过全部点 (xi,yi)，就会使曲线保留着一切测试误差；3)由试验或观察提供数据个数往往很多，假如用插 值法,势必得到次数较高插值多项式，计算很烦琐。2)当个别数据误差较大时，插值效果可能不理想；第23页最小二乘法思想求一条曲线,使数据点均在离此曲线上方或下方不远处,所求曲线称为拟合曲线,它既能反应数据总体分布,又不至于出现局部较大波动；更能反应被迫近函数特征,使求得迫近函数与已知函数从总体上来说其偏差按某种方法度量到达最小。第24页为此，希望从给定数据(xi,yi)出发,结构一个近似函数 ,不要求函数 完全经过全部数据点，只要求所得近似曲线能反应数据基本趋势，如图3.1所表示。图3.1 曲线拟合示意图 在某种意义上,曲线拟合更有实用价值。y=(x)xy第25页在对给出试验(或观察)数据作曲线拟合时,怎样才算拟合得最好呢？普通希望各试验(或观察)数据与拟合曲线偏差平方和最小,这就是最小二乘原理。两种迫近概念:插值:在节点处函数值相同.拟合:在数据点处误差平方和最小第26页问题提出：函数解析式未知,经过试验观察得到一组数据,代表f(x)在区间a,b上一系列点函数值 yi=f(xi)，通常由函数表来表示。xx0 x1x2xnyy0y1y2yn第27页y=f(x)要求出一个比较简单函数不要求函数 完全经过全部数据点，只要求所得近似曲线 能反应数据基本趋势。希望在某种范数下，误差比较小。y=(x)很多情况下，y=f(x)表示式是未知第28页当使用当使用2 2范数时候范数时候 要求：要求：这种要求误差（偏差）平方和最小拟合称为曲线拟合最小二乘法。为最小。为最小。第29页设已知数据点 分布大致为一条直线。作拟合直线 ,该直线不是经过全部数据点 ,而是使偏差平方和为最小，其中每组数据与拟合曲线偏差为（1）直线拟合这是关于a0，a1 连续可导函数第30页即得以下正规方程组(3.1)依据最小二乘原理，应取 和 使 有极小值，故 和 应满足以下条件：第31页例3.21 设有某试验数据以下：i i1 12 23 34 4x xi i1.361.371.952.28y yi i14.09416.84418.47520.963用最小二乘法求以上数据拟合函数。设所求拟合直线为 解:把表中所给数据画在坐标纸上,将会看到数据点分布能够用一条直线来近似地描述。第32页则正规方程组为 计算，得到 x1=1.36,x2=1.37,x3=1.95,x4=2.28,y1=14.094,y2=16.844,y3=18.475,y4=20.963第33页解得：于是得拟合直线方程：y=8.5027865+5.4357032xa0=8.5027865a1=5.4357032将以上数据代入上式正规方程组,得第34页拟合直线方程：y=8.5027+5.4357xi i1 12 23 34 4x xi i1.361.371.952.28y yi i14.09416.84418.47520.963拟合值拟合值15.89515.95019.10220.896计算误差：第35页（2）多项式拟合来拟合所给定数据，为最小寻求次数不超出n(nm)多项式：有时所给数据点分布并不一定近似地呈一条直线,此时，可用多项式拟合。对于给定一组数据使偏差平方和这是关于a0，a1，,an连续可导函数.第36页上述拟合多项式结构问题可归结为多元函数极值问题。令得 整理之后得 第37页这是关于系数 线性方程组，称为正规方程组。能够证实，正规方程组有唯一解。(3.2)将上式针对k与j展开，得 m个数据之和计算“和”第38页例3.22 设某试验数据以下：用最小二乘法求一个多项式拟合这组数据。i123456xi012345yi521123解：将已给数据点描在坐标系中，能够看出这些点靠近一条抛物线。第39页xy01234513245第40页计算得：所以设所求多项式为 得：第41页其正规方程组为 解之得:所求多项式为:第42页xy01234513245x=0,y=4.7143;x=1,y=2.4286x=2,y=1.1429;x=3,y=0.8572x=4,y=1.5715;x=5,y=3.2858第43页x=0,y=4.7143;x=1,y=2.4286;x=2,y=1.1429;x=3,y=0.8572;x=4,y=1.5715;x=5,y=3.2858第44页例例 已知实测数据表已知实测数据表试用最小二乘法求多项式曲线与此数据组拟合.i12345xi246810yi612182430解：令，则正规方程组为：同学们自己计算，求出a0,a1第45页经过计算，得到：解之，得：所求直线方程为:误差:第46页（4）可化为线性拟合非线性拟合有些非线性拟合曲线能够经过适当变量替换转化为线性曲线，从而用线性拟合进行处理，这部分本课程不做要求第47页连续函数最正确平方迫近和对数据曲线拟合区分1.连续函数f(x)Ca,b最正确平方迫近 在a,b上，用 Span 1(x),2(x),n(x)中函数(x)（通常是多项式）迫近连续函数f(x)。需要计算一系列定积分2.数据曲线拟合给定一组试验数据 xi,yi,i=1,2,n需要求出一条曲线 y=P(x)（通常是多项式）,使得该曲线和这些数据最靠近拟合曲线y=P(x)和数据点个数n无关需要计算“和”第48页作业 P94:13 P95:17，18Home第49页第50页