正态过程（高斯过程） 独立过程 独立增量过程 维纳过程 泊松过程 马尔可夫过程 生灭过程,4 几种重要的随机过程,4.1.1 正态分布（高斯分布） 定义1：如果随机变量X的概率密度为则称X为服从参数的正态分布，记为 ，其中， 为均值； 为方差。分布函数为当 时的正态分布称为标准正态分布，记为 。分布函数,4.1 正态过程(高斯过程),4.1.1 正态分布（高斯分布） 定义2：如果n维随机变量 的概率密度为其中， 为均值向量， 为协方差矩阵，则称X服从n维正态分布，称X为n维正态随机变量 。 n维正态分布完全由一阶矩和二阶矩所确定。,4.1.1 正态分布（高斯分布）中心极限定理：设 是n个相互独立同分布的随机变量，每个随机变量的均值为 ，方差为 ，则即 的极限分布为标准正态分布N(0,1)； 近似地服从正态分布 。 该定理表明，若有大量相互独立的随机变量，且每个随机变量对它们之和的影响足够小时，则当这些随机变量的个数趋于无穷大时，这些随机变量的和服从正态分布，而与每个随机变量的分布无关。,4.1.1 正态分布（高斯分布） n维正态随机变量的性质： （1）（n维正态分布的边沿分布） 设 是n维正态随机向量，则X的任一子向量 也服从正态分布。,Cb是保留C的第k1,k2,km行和列所得到的mm矩阵,4.1.1 正态分布（高斯分布） n维正态随机变量的性质： （2）（独立性） 定理1：n维正态分布的随机变量 相互统计独立的充要条件是它们两两互不相关。 定理2：若X是正态分布的随机向量，X1和X2是X的两个子向量，即 ，则X1与X2相互统计独立的充要条件是它们的互协方差矩阵为0。,4.1.1 正态分布（高斯分布） n维正态随机变量的性质： （3）（线性变换） 设 是n维正态随机变量，均值为 ，协方差矩阵为C。 若 ，其中 ，则 。 若e=(ejk)是m n矩阵, 是m 1的列矩阵，即m维向量，则， 。,4.1.1 正态分布（高斯分布） n维正态随机变量的性质： （3）（线性变换） 定理1： 服从n维正态分布 的充要条件是它的任何一个线性组合 服从一维正态分布 。 定理2：若 服从n维正态分布 ，而若e=(ejk)是mn矩阵,则 服从m维正态分布 。,正态分布随机变量的线性变换不变性,4.1.2 正态随机过程（高斯过程） 定义：若随机过程X(t), tT,对于任意n个时刻t1, t2, tn T, n维随机变量X(t1), X(t2), X(tn) 的联合概率分布为n维正态分布，则称X(t), tT为正态过程（或高斯过程）。 概率分布：,特征函数：,4.1.2 正态随机过程（高斯过程） 性质： （1）正态过程X(t), tT的n维概率密度及特征函数完全由它的均值向量和协方差矩阵所确定。（二阶矩过程） （2）对于正态过程，独立性和不相关性是等价的。 若一个正态过程X(t), tT在任意n个时刻t1, t2, tn T, 采样，所得的n维随机变量X(t1), X(t2), X(tn) 两两互不相关，则，这些随机变量也是相互独立的。 对于多个正态过程，若两两互不相关，则两两相互独立。 证明 X(t1), X(t2), X(tn) 两两互不相关，则协方差函数,n维正态概率密度等于n个一维正态概率密度的乘积。,4.1.2 正态随机过程（高斯过程） 性质： （3）对于正态过程，宽平稳与严平稳是等价的。,严平稳过程,二阶矩存在,宽平稳过程,宽平稳过程:,n维分布相同，不随时间、位置的推移而变化,严平稳过程：,4.1.2 正态随机过程（高斯过程） 性质： （4）正态过程的线性不变性。 正态过程的线性组合仍为正态过程； 正态过程经过线性系统（变换）后仍为正态过程。,4.1.2 正态随机过程（高斯过程） 性质： （5）正态过程的均方微积分 定理1 设 为k维正态随机向量,且 均方收敛于 ,则X也是k维正态随机向量。 定理2 设X(t), tT是正态过程,且在T上均方可导,则该过程的导数X(t), tT也是正态过程。 定理3 设X(t), tT是正态过程,且在T上均方可积,则该过程的积分 是正态过程。,4.1.2 正态随机过程（高斯过程） 复正态过程： 设X(t), tT和Y(t), tT为两个实正态过程，定义 为复正态过程。 对于复正态过程，在n个时刻采样，得到n个复正态随机变量，2 n个实正态随机变量； n个复正态随机变量的联合概率密度，应是2 n维实正态随机变量的联合概率密度。,4.1.2 正态随机过程（高斯过程） 例题：设有随机过程 ，式中为常数，U和V是相互独立的正态随机变量，且均值皆为0，方差都是 。求X(t) 的一维、二维概率密度。 解：在任意时刻，该随机过程是正态随机变量U和V的线性组合，因此，是一正态过程。求出均值和方差函数，即可求出其概率密度。,4.1.2 正态随机过程（高斯过程）,定义：如果随机过程X(t), tT，对应于任意n个时刻t1, t2, tn T的n个随机变量X(t1), X(t2), X(tn)相互独立，则称该随机过程为独立过程。 n维概率分布由一维分布确定： 当时间参数是离散时，若X(n) ( n=1,2,)是相互独立的随机变量，称X(n), n=1,2,是独立随机序列。 独立随机序列在实际中是存在的，如重复抛硬币试验结果就形成一个独立随机序列；而对于任何连续参数过程，当t1与 t2充分接近时，X(t1)和X(t2)将不可能完全独立。因此参数连续的独立过程实际上是不存在的，是一种理想化的随机过程。,4.2 独立过程,例1：伯努利随机序列。伯努利试验仅有两种结果，各次试验结果互不影响，伯努利随机序列X(n), n=1,2,是独立随机序列。 定义概率分布：均值：均方值：方差：相关函数：协方差函数：,4.2 独立过程,例2：高斯白噪声。 如果随机过程X(t), -t+ 的均值为0，方差为 ，相关函数满足功率谱为常数，即 ，则称 X(t), -t+ 为连续参数白噪声（过程）。 如果对于每个t (-, + ), X(t)是正态随机变量，则称 X(t), -t+ 为高斯白噪声（过程）。 高斯白噪声是独立随机过程。如热噪声。,4.2 独立过程,例2：高斯白噪声。 如果随机序列X(n), n=0,1,2,的均值为0，方差为 ，相关函数满足功率谱为常数，即 ，则称 X(n), n=0,1,2,为白噪声序列。 如果白噪声序列X(n), n=0,1,2, 都服从正态分布，则称 X(n), n=0,1,2,为高斯白噪声序列。 高斯白噪声序列是独立随机序列。,4.2 独立过程,定义：设X(t), tT是一随机过程，如果对于任意正整数n2，以及任意的t1, t2, tn T, 且0t1 t20，以及任意的t1, t2, t1+, t2+ T，随机变量X(t2+ )- X(t1+),与X(t2)- X(t1)有相同的分布，称X(t), tT为平稳独立增量过程。如抛硬币，布朗运动等。,4.3 独立增量过程,定义：对于任意的t1 t2T, 如果随机过程X(t), tT的增量X(t2)- X(t1)的概率分布，只与时间间隔的长度t2- t1有关，而与起点t1无关，则称X(t), tT为平稳增量过程。 例1 和过程。设X(n), n=1,2,是独立随机序列，称 为和过程。若PX(0)=0=1,则Y(n), n=0,1,2,是独立增量过程。 若X(n), n=1,2,的各个随机变量具有相同的分布，称X(n), n=1,2,是独立同分布随机序列。则 Y(n), n=0,1,2,是平稳独立增量过程。,4.3 独立增量过程,例1 证明 在这两个Y(n)的增量中，没有共同的X(n)。由独立序列X(n)的相互独立性知，和过程Y(n)是独立增量过程。 又Y(n2)- Y(n1)与Y(n2+m)- Y(n1+m)都是X(n) 的n2 - n1个随机变量之和。当X(n)是独立同分布随机序列时，Y(n2)- Y(n1)与Y(n2+m)- Y(n1+m) 有相同的概率分布，这时，和过程Y(n)便是平稳独立增量过程。 也可得Y(n2 -n1) 与Y(n2)- Y(n1)同分布。,4.3 独立增量过程,