2.6 2.6 线性最小均方性最小均方误差估差估计 linear minimum mean square error estimation linear minimum mean square error estimation一、一、线性最小均方性最小均方误差估差估计准那么准那么放放宽了了对待估待估计量先量先验知知识的要求。的要求。设第第k k次次观测为：为知的观测系数，为知的观测系数， 为观测噪声，估计量为观测噪声，估计量标量量单参量情况参量情况使估使估计的均方的均方误差差最小化的估计叫最小均方误差估计。记为：最小化的估计叫最小均方误差估计。记为：多参量情况多参量情况观测模型：模型：N维观测矢量矢量NM维系数矩系数矩阵M维待估待估计矢量矢量N维观测噪声矢量噪声矢量M维列矢量列矢量N维列矢量列矢量MN维确定确定 使均方误差使均方误差最小化的估计叫最小均方误差估计。记为：最小化的估计叫最小均方误差估计。记为：二、二、线性最小均方性最小均方误差估差估计知知 的前二阶矩：的前二阶矩：使使 最小化的估计：最小化的估计：矩矩阵函数函数对矩矩阵求求导公式公式解得：解得：估估计中只用到二中只用到二阶矩。矩。三、三、线性最小均方性最小均方误差估差估计的性的性质1估估计矢量是矢量是观测矢量的矢量的线性函数；性函数；2估估计矢量是无偏的；矢量是无偏的；3估估计误差矢量与差矢量与观测矢量正交，矢量正交， 即：即：4估估计矢量均方矢量均方误差差阵的最小性的最小性线性最小均方性最小均方误差估差估计矢量在矢量在线性估性估计中有最小的中有最小的均方均方误差，而且均方差，而且均方误差差阵也具有最小性。也具有最小性。设设 是是 的恣意线性估计，那么均方误的恣意线性估计，那么均方误差阵为：差阵为：上式中第一项、第二项是非负定的，第三项是上式中第一项、第二项是非负定的，第三项是四、四、线性最小均方性最小均方误差估差估计运用运用信道平衡信道平衡 数字通数字通讯系系统中，除了信道的噪声干中，除了信道的噪声干扰之外，另一之外，另一个重要的干个重要的干扰就是就是码间干干扰。它与加性的噪声干。它与加性的噪声干扰不同，不同，是一种乘性的干是一种乘性的干扰。呵斥。呵斥码间干干扰的的缘由有很多，由有很多，实践践上，只需上，只需传输信道的信道的频带是有限的，就会呵斥一定的是有限的，就会呵斥一定的码间干干扰。ISI- Inter-Symbol Interference ISI- Inter-Symbol Interference 信道h(n)+平衡器h1(n)x(n)x1(n)w(n)r(n)判决电路通常通常h1(n)是一个横向是一个横向滤波器，即波器，即DDDDwN-1w2w1w0+产生的误差为：是理想输出信号， 因此，在信道平衡中，就是根据某种准那么确定横向滤波器的权系数，通常采用的准那么为最小均方误差准那么。2.7 2.7 最小二乘估最小二乘估计 该方法不需求知道任何先方法不需求知道任何先验知知识，仅需求知道需求知道被估被估计量的量的观测模型。模型。一、最小二乘估一、最小二乘估计方法方法 假设待估计量假设待估计量 的信号模型的信号模型 观测模型：观测模型：那么那么 的最小二乘估计就是使的最小二乘估计就是使最小化的估计。记为最小化的估计。记为多参量情况：多参量情况：最小化的估计：最小化的估计：二、二、线性最小二乘估性最小二乘估计线性性观测模型：模型：N1维NMNM维M1维N1维其中其中由于由于是非负定的，所以是非负定的，所以 是是 的最小值。的最小值。估计量的性质：估计量的性质：1估计矢量是观测矢量的线性函数；估计矢量是观测矢量的线性函数；2假设假设 ，那么估计是无偏的；，那么估计是无偏的；3假设假设 为协方差阵，那么为协方差阵，那么LS估计的均方误差阵：估计的均方误差阵：三、三、线性加性加权最小二乘估最小二乘估计令令线性加性加权最小二乘估最小二乘估计就是使就是使达最小的估达最小的估计。N*N对称正定矩阵估计量的性质：估计量的性质：1估计矢量是观测矢量的线性函数；估计矢量是观测矢量的线性函数；2假设假设 ，那么估计是无偏的；，那么估计是无偏的；3假设假设 为协方差阵，那么为协方差阵，那么LS估计的均方误差阵：估计的均方误差阵：如何如何选取取权矩矩阵，使均方，使均方误差差为最？可以最？可以证明，当明，当均方均方误差差阵取最小取最小值，四、非四、非线性最小二乘估性最小二乘估计 的信号模型的信号模型 是非线性的，是非线性的，最小化的最小化的问题非常困非常困难。1 1参量参量变换法法2 2参量分参量分别法法五、最小二乘估五、最小二乘估计运用运用举例例 1光条中心高斯曲光条中心高斯曲线拟合；合； 2图像畸像畸变的多的多项式修正式修正u，v校准后的坐校准后的坐标，x，y校准前的坐校准前的坐标。