主讲教师主讲教师: 何松华何松华 教授教授联络方式联络方式: 73132618 (0731) 82687718 73132618 现代数字信号处置/确定性最小二乘滤波器第三章第三章 确定性最小二乘滤波器确定性最小二乘滤波器本章的教学内容本章的教学内容正那么方程正那么方程滤波器的渐近性滤波器的渐近性最小二乘逆滤波器最小二乘逆滤波器白化滤波器白化滤波器前前 言言一、一、LP、HP、BP、BS 滤波器设计滤波器设计(本本科科)设计特点：在频域上给出容限图，期望能逼近理想设计特点：在频域上给出容限图，期望能逼近理想滤波器。滤波器设计与输入信号的特性关系不亲密。滤波器。滤波器设计与输入信号的特性关系不亲密。以低通滤波器为例前前 言言二、最正确滤波器的概念二、最正确滤波器的概念期望输出期望输出实践输出实践输出 设计特点：在时域上，我们希望实践输出尽量逼近设计特点：在时域上，我们希望实践输出尽量逼近期望输出。与输入和输出信号的波形特性亲密相关。期望输出。与输入和输出信号的波形特性亲密相关。 输入和输出既可是随机信号，也可是确定信号。输入和输出既可是随机信号，也可是确定信号。 逼近准那么：最小均方误差、最小二乘逼近准那么：最小均方误差、最小二乘h(k)g(k)y(k)f(k)以信道平衡为例?前前 言言确定性最小二乘滤波器确定性最小二乘滤波器直接对样本数据g(k)进展处置,无须知道g(k)的统计特性,只对该样本现实最正确统计性最小二乘滤波器统计性最小二乘滤波器(最小均方误差最小均方误差)需求知道g(k)的二阶统计特性,对具有该二阶统计特性的随机信号的一切样本现实,从平均意义上最正确第4章前前 言言滤波滤波预测预测平滑的概念平滑的概念期望输出期望输出实践输出实践输出预测滤波器(k)y(k)f(j+k)j0期望输出期望输出实践输出实践输出平滑滤波器(k)y(k)f(j+k)j0gg第一节第一节 正那么方程正那么方程一、最正确滤波的引出一、最正确滤波的引出假设输入信号假设输入信号g g为单位脉冲信号为单位脉冲信号u(k)u(k)经过线性系统经过线性系统G(z)G(z)产生产生问题的处理似乎很容易,真有这么简单吗?第一节第一节 正那么方程正那么方程在因果、稳定的要求下，在因果、稳定的要求下，H(z)H(z)无法物理实现的缘由：无法物理实现的缘由： 最优准那么：最优准那么：LMSLMS准那么、最小准那么、最小二乘二乘 的的零零点点不不一一定定在在单单位位圆圆内内, , 假假设设 不不是是最最小小相相位的，那么位的，那么 就不是稳定的；就不是稳定的； 对对应应的的能能够够是是一一个个因因果果稳稳定定的的IIRIIR滤滤 波波器，而所设计的器，而所设计的 要求是一个有限阶的要求是一个有限阶的FIRFIR滤滤 波器。波器。 假假设设 不不是是因因果果的的( (平平滑滑滤滤波波) )，那那么么 不是因果的不是因果的物理可实现的处理方案：设计因果、稳定或物理可实现的处理方案：设计因果、稳定或FIRFIR的的最正确线性滤波第一节第一节 正那么方程正那么方程二、正那么方程二、正那么方程误差序列误差序列因果输入序列因果输入序列期望输出期望输出n阶阶FIR滤波器滤波器(不限定不限定)表示平方可积(和)序列帕斯瓦尔定理误差总能量第一节第一节 正那么方程正那么方程最小二乘准那么最小二乘准那么 (LS : Least-Square) (LS : Least-Square) 要求h(n)因果、FIR积分的乘积变成二维积分，采用两个积分变量第一节第一节 正那么方程正那么方程与与h h无关的常数项无关的常数项 ： 期望输出信号的能量期望输出信号的能量 线性项的系数线性项的系数 ：输入与输出的相互关函数：输入与输出的相互关函数 输入序列是因果的卷积定义？第一节第一节 正那么方程正那么方程二次项的系数二次项的系数 输入信号自相关输入信号自相关 积分变量置换积分变量置换参见前面求和表达式第一节第一节 正那么方程正那么方程Toeplitz矩阵矩阵 (n+1)(n+1)维的输入自相关矩阵，第i行第j列元素值为r(|i-j|)n+1维滤波矢量令n+1维输入输出相互关矢量n阶滤波器第一节第一节 正那么方程正那么方程上式用矢量、矩阵方式表示为上式用矢量、矩阵方式表示为练习:反过来验证第一节第一节 正那么方程正那么方程标量V对矢量h求偏导零矢量当R为对称矩阵时下面引见另外一种相对复杂的推导方法(展开法)第一节第一节 正那么方程正那么方程估计误差序列与估计误差序列与输入序列输入序列(l=0)及及其平移序列正交其平移序列正交参见r()、q()的定义及性质第一节第一节 正那么方程正那么方程最小二乘滤波器的正那么方程第一节第一节 正那么方程正那么方程三、误差分析三、误差分析 即：期望输出能量一定大于最小二乘滤波器实践输即：期望输出能量一定大于最小二乘滤波器实践输出能量。类似于勾股定理。出能量。类似于勾股定理。误差能量等于期望输出信号能量-实践输出信号能量练习:根据定义以及可分别的二维求和性质第一节第一节 正那么方程正那么方程相对误差能量：相对误差能量：期望输出期望输出 f f 与实践输出与实践输出 y y 完全一致完全一致期望输出期望输出 f f与实践输出与实践输出 y y完全不一致完全不一致输入与期望输出完全不相关。输入与期望输出完全不相关。 第一节第一节 正那么方程正那么方程输入序列长度为2情况下的举例，大于2时，引入超平面子空间概念期望输出与输入不相关期望输出与输入完全相关为输入的线性组合，必在输入信号构成的子空间内4.窄带干扰信号y(k)有长的相关长度，自相关在范围5.上有较大的值；干扰数目、频率等参数未知。例：窄带干扰例：窄带干扰(NBI)消除消除1.s(k)、y(k)和v(k)相互之间不相关；2.热噪声v(k)是白色的；3.有用信号s(k)是宽带的，因此有短的相关长度，即 第一节第一节 正那么方程正那么方程超宽带雷达(探地、救灾)信号处置,如何根据观测信号x(k)得到回波信号s(k)的最正确估计,或如何消除干扰y(k)例如各种窄带的通讯信号由于由于y(k)和和x(k)是相关的，可以经过是相关的，可以经过x(k)用最正确线用最正确线性估计方法得到一个对性估计方法得到一个对NBI的估计：的估计： 假设假设 那那么么第一节第一节 正那么方程正那么方程线性预测器可以利用最小二乘滤波器来实现。滤波线性预测器可以利用最小二乘滤波器来实现。滤波器期望输出为器期望输出为y(k)，输入为，输入为x(k) 问题：只需观测数据问题：只需观测数据 x(k) ，y(k)不可得。不可得。序列的卷积如何计算相互关?可计算自相关?思思绪：最正确：最正确滤波器的波器的设计需求的是期望需求的是期望输出与出与输入入 之之间的相互关函数的相互关函数q(m)|m=0,1,n,而不是而不是 期望期望输出出f(k);进一步的一步的问题是是: 依然无法依然无法计算算 y(k)与与x(k)的相互关的相互关思索：思索：x(k)由由s(k)、y(k)、v(k)三部分三部分组成，成， s(k)的相的相 关关长度小于度小于D， y(k)的相关的相关长度大于度大于D， v(k) 相关相关长度度为零，那么零，那么x(k)中的中的s(k) 与与x(k-D)中的中的 s(k-D)、y(k-D)、v(k-D)三部分都不相关三部分都不相关;同理同理, x(k)中的中的v(k) 也与也与x(k-D)不相关不相关,那么那么 x(k)与与x(k-D) 的自相关就是期望的自相关就是期望输出出y(k)与与输入入 x(k-D)的互的互 相关相关第一节第一节 正那么方程正那么方程思绪：以思绪：以x(k-D)作为输入，以作为输入，以y(k)作为期望输出；那么作为期望输出；那么y(k)与与x(k-D) 的相互关函数是可计算的的相互关函数是可计算的转化为转化为x(k)的自相的自相关关第一节第一节 正那么方程正那么方程Z-D前向线性预测+-x(k)e(k)性质:证:第一节第一节 正那么方程正那么方程m 0时，时， 与与 互不相关，那么互不相关，那么 与与 互不相关，同理，互不相关，同理， 与与 互不相关，那么互不相关，那么y(k)未知情况下依然可以经过x(k)及其延时序列x1(k)估计y(k)与输入序列的相互关函数第一节第一节 正那么方程正那么方程设x(k)的的实践践长度范度范围为x(k)|k=0,1,N-1，滤波器波器的的长度范度范围为h(k)|k=0,1,n (nN-D)；计算算构造如下矢量与矩阵第一节第一节 正那么方程正那么方程那么有：去除窄带干扰后的信号为第一节第一节 正那么方程正那么方程举例采样间隔0.5ns第一节第一节 正那么方程正那么方程第一节第一节 正那么方程正那么方程14个干扰频率课程上机实验4：确定性最小二乘滤波器的实现上述举例中，其他参数不变，干扰信号参数设置为 A1=A2=A14=2; 1=2= 14=0 1=0.06,2=0.10,3=0.18,4=0.21 5=0.30,6=0.48,7=0.52,8=0.57 9=0.61,10=0.64,11=0.67,12=0.70 13=0.78,14=0.94采用Matlab言语编程(1) 参照实验3的方法产生均值为0，根方差为0.1的正态白噪声第一节第一节 正那么方程正那么方程数据点数从实验3的100000变成200(2) 按设定的参数产生干扰信号数据第一节第一节 正那么方程正那么方程针对Matlab的数组下标只能从1开场的调整(3) k0=96，产生信号数据第一节第一节 正那么方程正那么方程画出 以及 的波形图(4) 画出含有噪声以及干扰的合成信号x(k)的波形图(5) 给定参数D=16，n=12,N=200；求FIR线性最小二乘滤 波器 h(k)|k=1,2,n+1数组下标从1开场,对应实践的h(0)到h(n)第一节第一节 正那么方程正那么方程第一节第一节 正那么方程正那么方程(6) 利用线性最小二乘滤波器对观测数据x(k)进展滤波处置，得到窄带干扰信号序列的估计值序列(7) 利用滤波器的输出数据序列对观测信号中的干扰信号进展对消处置；画出对消后信号 的波形图；察看其与 的类似性及差别性利用Matlab的矩阵运算函数第二节第二节 最小二乘滤波器的渐近性最小二乘滤波器的渐近性输入序列，因果，不一输入序列，因果，不一定最小相位定最小相位期望输出序列，不一定因果期望输出序列，不一定因果因果因果IIR滤波器滤波器(n)下面讨论最小二乘滤波器的阶n足够大或趋于的情况问题：n时，V(h)可以下降到多少？能否可下降到0？期望输出实践输出y(k)数据平滑运用第二节第二节 最小二乘滤波器的渐近性最小二乘滤波器的渐近性一、最优因果一、最优因果IIR LS 滤波器的求解问题滤波器的求解问题最小相位最小相位假设输入信号g(k)是因果、稳定的但非最小相位的，G(z)存在一个单位圆外的零点1/z0作等值变换矩阵求解?不行问题转化: 序列所对应的全通函数序列的概念第二节第二节 滤波器的渐近性滤波器的渐近性最小相位最小相位全通函数全通函数练习3.1：令z=ej,z0=|z0|ej利用复数运算性质证明对于G(z)有多个单位圆外零点的情况，采用同样方法可以得到最小相位全通函数稳定因果第二节第二节 滤波器的渐近性滤波器的渐近性全通函数全通函数G(z)的一切单位圆外的零点的一切单位圆外的零点设设全通函数对应的全通函数对应的序列为因果的序列为因果的输入序列输入序列 g(k) 知的情况下知的情况下, d(k) 也是知的也是知的序列总能量序列总能量分子分母的阶一样 第二节第二节 滤波器的渐近性滤波器的渐近性现实情况下，要求现实情况下，要求理想情况下相当于以d(k)为输入,f(k)为期望输出第二节第二节 滤波器的渐近性滤波器的渐近性Rd、h0、qd为无穷阶的即即有有的解h0满足根据功率谱定义以及全通函数的性质即即 Rd的第m行第l列元素值第二节第二节 滤波器的渐近性滤波器的渐近性二、误差分析二、误差分析根据第一节(三)定义i0时，d(i)=0第二节第二节 滤波器的渐近性滤波器的渐近性变量置换：-mm全通函数性质第二节第二节 滤波器的渐近性滤波器的渐近性非最小相位误差非最小相位误差非因果误差非因果误差 (1) 假设期望输出是因果的，那么 (2) 假设输入序列是最小相位的，那么D(z)=1，d(k)=(k) 可分别的二维积分化成两个积分的乘积第二节第二节 滤波器的渐近性滤波器的渐近性对于对于m 1，k 0，结论：结论：(1) 假设期望输出序列是因果的，输入序列是最假设期望输出序列是因果的，输入序列是最小相位的，那么当最小二乘滤波器的阶小相位的，那么当最小二乘滤波器的阶n足够大时，滤足够大时，滤波器的输出可以逼近期望输出，误差能量可以到达恣意波器的输出可以逼近期望输出，误差能量可以到达恣意小。小。(2) 假设期望输出序列是非因果的，输入序列是最假设期望输出序列是非因果的，输入序列是最小相位的，那么当最小二乘滤波器的阶小相位的，那么当最小二乘滤波器的阶n足够大时，滤足够大时，滤波器的输出可以逼近期望输出序列的因果部分波器的输出可以逼近期望输出序列的因果部分 第三节第三节 最小二乘逆滤波器最小二乘逆滤波器一、逆滤波器引出一、逆滤波器引出n阶FIR滤波器二、正那么方程二、正那么方程输入序列为因果稳定的期望输出为单位脉冲函数第三节第三节 最小二乘逆滤波器最小二乘逆滤波器第三节第三节 最小二乘逆滤波器最小二乘逆滤波器三、渐近方程三、渐近方程全通序列的性质第三节第三节 最小二乘逆滤波器最小二乘逆滤波器例例1 因果非最小相位滤波器求逆因果非最小相位滤波器求逆试设计一个n阶的FIR滤波器，满足 解：解：实数实数第三节第三节 最小二乘逆滤波器最小二乘逆滤波器对于此特殊情况,不一定要经过矩阵求逆解方程组第0个方程第k个方程第n个方程第三节第三节 最小二乘逆滤波器最小二乘逆滤波器通解通解差分方程有两个根根据实际，差分方程的解通式思索到一切方程满足第三节第三节 最小二乘逆滤波器最小二乘逆滤波器解出系数解出系数c1、c2 练习3.2：将上式代入方程组中的第1,n个方程求得：第三节第三节 最小二乘逆滤波器最小二乘逆滤波器渐近性：渐近性：全通函数第三节第三节 最小二乘逆滤波器最小二乘逆滤波器也可利用渐近性进展误差能量求解：也可利用渐近性进展误差能量求解：根据Z变换性质例例2解：解： (1) L = 12第三节第三节 最小二乘逆滤波器最小二乘逆滤波器试设计一个10阶的FIR滤波器，使得 (1) L = 12； (2) L = 0 练习3.3练习3.3续g(k)非最小相位序列10阶滤波器,只须计算0至10的q(m),虽然q(12)=1/4第三节第三节 最小二乘逆滤波器最小二乘逆滤波器= -2.28910-4,0,-5.72210-5,0,-1.43110-5,0, -3.57610-6,0,-8.94110-7,0,-2.23610-7,0,1(2) L = 0练习3.3续解正那么方程组练习3.3续：计算两个有限长度序列的卷积k=12时 最大误差很小第三节第三节 最小二乘逆滤波器最小二乘逆滤波器=1/16,0,-0.234,0,-0.0586,0,-0.0146,0,-0.00366, 0,-0.00092,0,-0.00023 h =1/4,0,6.2510-2,0,-1.56210-2,0, 3.90410-3, 0,9.72410-4,0,2.28810-4y(k)与(k)之间的误差很大两种情况的比较输入期望输出群时延为正，用因果滤波器实现时，误差较小练习3.3续第三节第三节 最小二乘逆滤波器最小二乘逆滤波器例例3 输入输入:期望输出期望输出:求四阶求四阶解：解：输入期望输出群时延为负，且输入序列为非最小相位的，用因果滤波器呼应在输入之后无法实现相位的补偿，误差较大显然，输入为最小相位的，输出为因果的；n足够大时，存在准确的解第四节第四节 确定性白化滤波器确定性白化滤波器生成模型生成模型白化模型白化模型一、白化滤波器引出一、白化滤波器引出假设对假设对H(z)=1/G(z)无任何限制，平稳随机信号经过无任何限制，平稳随机信号经过该系统后一定能得到完全白化；该系统后一定能得到完全白化；假设假设H(z)为因果、稳定为因果、稳定IIR系统，那么系统，那么G(z)必需为最必需为最小相位才干得到完全白化；小相位才干得到完全白化；假设要求假设要求H(z)为为n阶阶FIR系统，此时系统，此时 H(z)是是G(z)的的n阶最小二乘逆滤波器阶最小二乘逆滤波器, 不一定能完全白化。不一定能完全白化。G(z)(n)nx不思索物理可实现性1/G(z)nx(n)二、第一种解法二、第一种解法 逆逆滤波器波器第四节第四节 确定性白化滤波器确定性白化滤波器正那么方程正那么方程三、第二种解法三、第二种解法白化白化滤波器波器 与逆与逆滤波器本波器本质上一致上一致第四节第四节 确定性白化滤波器确定性白化滤波器用归一化的n阶因果滤波器a (k)a(0)=1(k=0,1,n)对信号进展滤波处置，期望输出为(k) (未知,白化,但1)逆滤波器的h(0)不一定为1那么第四节第四节 确定性白化滤波器确定性白化滤波器正二次型,具有最小值点第四节第四节 确定性白化滤波器确定性白化滤波器根据上述方程组可以求得a(1),a(2),a(n)第四节第四节 确定性白化滤波器确定性白化滤波器对l=1,2,n;里面的求和式为零;剩下l=0项第四节第四节 确定性白化滤波器确定性白化滤波器联立方程组得到共n+1个方程第四节第四节 确定性白化滤波器确定性白化滤波器对比两组不同的方程组白化滤波器逆滤波器第二组方程组两边同除以h(0)，得到第四节第四节 确定性白化滤波器确定性白化滤波器白化滤波器逆滤波器显然，这两组方程具有一样的解第四节第四节 确定性白化滤波器确定性白化滤波器于是得到白化滤波器与逆滤波器的关系为白化滤波器的期望输出为第四节第四节 确定性白化滤波器确定性白化滤波器第四节第四节 确定性白化滤波器确定性白化滤波器非最小相位、因果、稳定系统的级联分解非最小相位、因果、稳定系统的级联分解附录附录: 全通系统和最小相位系统全通系统和最小相位系统全部极点在单位圆内,但有零点在单位圆外全部极点和零点都在单位圆内(最小相位系统)全通系统分解方法曾经在前面引见附录附录: 全通系统和最小相位系统全通系统和最小相位系统群时延全通系统的重要性质于是参见本科结论：在幅频特性一样的情况下，非最小相位系统H(z)的群时延大于最小相位系统Hmin(z)的群时延，即在幅频特性一样的一类系统中，零极点都在单位圆内的系统的群时延是最小的，信号经过这样的系统，输出信号相对于输入信号具有最小的相位滞后(系统反响速度最快)。最小相位的含义