随机过程,王建华 Email:wangaopublic.wh.hb.cn,第一章 概率论基础,3,1.1 概率空间,随机试验：可重复、可预见、不确定 样本空间：随机试验所有可能结果 样本点：基本事件 e 事件：A 必然事件： 不可能事件： 事件运算：并、交、差、（上、下）极限,4,1.1 概率空间,可测空间： 集合，某些子集组成集合族F （1）F （必然事件） （2）若AF, 则AF （对立事件） （3）若AiF，则 F（可列并事件）称F为-代数，（，F）为可测空间,5,1.1 概率空间,设（，F）为可测空间 （4）F（不可能事件） （5）若A,B F,则AB F （差事件） （6）若AiF,则 F（有限并，有限交，可列交事件）,6,1.1 概率空间,例：连续投掷两次硬币试验 =正正，正反，反正，反反 F =，正正，正反，反正，反反， 正正，正反，正正，反正，正正，反反，正反，反正，正反，反反，反正，反反，正正，正反，反正，正正，正反，反反，正正，反正，反反，正反，反正，反反，正正，正反，反正，反反 F为-代数，（，F）为可测空间,7,1.1 概率空间,F1 =，正正，正反，正正，正反， 反正，反反，正反，反正，反反， 正正，反正，反反 ，正正，正反，反正，反反 F2 =，反正，反反， 反正，反反， 正正，正反，正正，正反，反反， 正正，正反，反正 ，正正，正反，反正，反反 F3 =，正正， 正反，反正，反反， F4 =，正反， 正正，反正，反反 ， Fi为-代数，（，Fi）为可测空间,8,1.1 概率空间,概率空间：设（，F）为可测空间 映射P：F R，A|P（A） (1)A F， 0 P（A） 1 (2) P（）= 1 (3)称P是(, F)上的概率， (, F,P)为概率空间， P(A)为事件A的概率,9,1.1 概率空间,设(, F,P)为概率空间 （4） P（）= 0 （5）P（BA）= P(B) -P(A) , (AB) （6）,10,1.1 概率空间,例 投掷硬币试验，=正，反 F =，正，反，正，反 P=0，P正=P反=1/2，P=1， (, F,P)为概率空间,11,1.1 概率空间,独立事件族：设(, F,P)为概率空间， G F，若对任意A1,A2,An G ，n=1,2 ,，有则称G 为独立事件族 事件A,B独立：P(AB)=P(A)P(B),12,1.1 概率空间,事件A,B,C独立： P(AB)=P(A)P(B) P(AC)=P(A)P(C) P(BC)=P(B)P(C) P(ABC)=P(A)P(B)P(C),13,1.2 随机变量及其分布,分布函数：设(,F,P)为概率空间 映射X： R，e |X（e）xR，e:X(e)x F， 则称X(e)是F上的随机变量，简记X 对xR，称F(x)=Pe:X(e)x为随机变量X的分布函数,14,1.2 随机变量及其分布,分布函数的性质： （1）单调性：若x1x2，则F(x1)F(x2) （2） ， （3）F(x)右连续， F(x+0) = F(x) 这三个性质完全刻划了分布函数,15,1.2 随机变量及其分布,例 投掷硬币试验，=正，反 F=，正，反，正，反 P=0，P正=P反=1/2，P=1， (,F,P)为概率空间 映射X： R，X(正)=1， X(反)=0 （1）x0，e: X(e)x= F （2）0 x1，e: X(e)x= 反F （3）x1，e: X(e)x= 正,反F X为随机变量,16,1.2 随机变量及其分布,分布函数为即,17,1.2 随机变量及其分布,随机变量：离散型,连续型,非离散非型连续型 离散型随机变量X的概率分布用分布律（列）描述：PX=xk=pk，k=1,2, 分布函数常见离散型随机变量X及其分布律 (1)0-1分布 PX=1=p，PX=0=q，0p1，p+q=1,18,1.2 随机变量及其分布,(2)二项分布PX=k= ， 0 0，k=0,1,2, (4)几何分布PX=k= ， 0 p1, p+q=1, k=1,2,19,1.2 随机变量及其分布,连续型随机变量X的概率分布用概率密度函数f(x)描述 分布函数 常见连续型随机变量X及其概率密度 (1)均匀分布,20,1.2 随机变量及其分布,(2)正态分布(3)指数分布,21,1.2 随机变量及其分布,非离散非型连续型随机变量 例 设随机变量X的绝对值不大于1; PX=-1=1/8, PX=1=1/4;在事件-1X1出现的条件下,X在(-1,1)内的任一子区间上的条件概率与该子区间长度成正比。试求随机变量X的分布函数F(x)=PX x。,22,1.2 随机变量及其分布,解,23,1.2 随机变量及其分布,24,1.2 随机变量及其分布,25,1.2 随机变量及其分布,n维随机变量及其概率分布 设(,F,P)为概率空间， X=X(e)=(X1(e), X2(e), Xn(e)是定义在上的n维空间Rn中取值的向量函数,x=(x1, x2, , xn)Rn， e:X1(e)x1, X2(e)x2, ,Xn(e)xn F， 则称X(e)是F上的n维随机变量， 简记X =(X1, X2, Xn),26,1.2 随机变量及其分布,对x =(x1, x2, , xn,) Rn，称 F(x)= F(x1,x2,xn)=Pe:X1(e)x1, X2(e)x2, ,Xn(e)xn 为n维随机变量X=(X1,X2,Xn)的联合分布函数,27,1.2 随机变量及其分布,n维联合分布函数F(x1,x2,xn)的性质 (1) 对于每个变元xi (i=1,2, ,n) ， F(x1,x2,xn)是非降函数 (2)对于每个变元xi (i=1,2, ,n) ， F(x1,x2,xn)是右连续的,28,1.2 随机变量及其分布,(3)对于Rn的区域(a1,b1;a2,b2;an,bn)， 其中aibi (i=1,2, ,n) , F(b1,b2 , ,bn)-+(-1)n F(a1,a2 , ,an)0,29,1.2 随机变量及其分布,对于n=2 F(b1,b2) - F(a1,b2) - F(b1,a2) + F(a1,a2) 0yb2a2x a1 b1,30,1.2 随机变量及其分布,对于n=3 F(b1,b2,b3) - F(a1,b2,b3) - F(b1,a2,b3) - F(b1,b2,a3) + F(a1,a2,b3) +F(a1,b2,a3) + F(b1,a2,a3) -F(a1,a2,a3) 0,31,1.2 随机变量及其分布,(4),32,1.2 随机变量及其分布,n维离散型随机变量X=(X1,X2,Xn) Xi都是离散型随机变量 (i=1,2, ,n) X=(X1,X2,Xn)的联合分布律为P(X1=x1,X2=x2,Xn=xn)=其中xi Ii是离散集，i=1,2, ,n X=(X1,X2,Xn)的联合分布函数为(y1, y2, , yn,) Rn,33,1.2 随机变量及其分布,n维连续型随机变量X=(X1,X2,Xn) 联合概率密度f(x1,x2,xn) X=(X1,X2,Xn)的联合分布函数为(y1, y2, , yn,) Rn,34,1.2 随机变量及其分布,随机变量的独立性 设Xt,tT是一族随机变量，若对任意n2和t1, t2, tn T ，x1,x2,xn R ，有则称Xt,tT是独立的,35,1.2 随机变量及其分布,若Xt,tT是一族离散型随机变量， 独立性等价于其中xi是Xti的任意可能值(i=1,2, ,n),36,1.2 随机变量及其分布,若Xt,tT是一族连续型随机变量， 独立性等价于其中ft1,t2(x1,x2,xn)是n维随机变量X=(Xt1,Xt2,Xtn)的联合概率密度, fti(xi)是随机变量Xti的概率密度(i=1,2, ,n),37,1.3 随机变量的数字特征,数学期望 设随机变量X的分布函数为F(x)，若则称为X的数学期望（均值）,38,1.3 随机变量的数字特征,对离散型随机变量X，分布律P(X=xk)=pk，k=1,2, 数学期望对连续型随机变量X，概率密度f(x) 数学期望,39,1.3 随机变量的数字特征,方差 设X是随机变量，若EX2，则称 DX=E(X-EX)2为X的方差 协方差 设X,Y是随机变量，若EX2, EY2 ，则称BXY=E(X-EX)(Y-EY)为X,Y的协方差,40,1.3 随机变量的数字特征,相关系数称 为X,Y的相关系数 若XY=0，则称X,Y不相关 相关系数表示X,Y之间的线性相关程度的大小,41,1.3 随机变量的数字特征,随机变量的数学期望和方差的性质 (1)若n维随机变量X=(X1,X2,Xn)的联合分布函数为F(x1,x2,xn)，g(x1,x2,xn)是n维连续函数，则(2)E(aX+bY)= aE(X) + bE(Y)D(X)=E(X-EX)2=E(X2)-(EX)2,42,1.3 随机变量的数字特征,(3) 若X,Y独立，则E(XY)=E(X)E(Y) (4)若X,Y独立，则D(aX+bY)= a2D(X) + b2D(Y) (5)(Schwarz不等式) 若EX2, EY2 ，则E(XY)2 E(X2) E(Y2),43,1.3 随机变量的数字特征,(6)(单调收敛定理) 若0 XnX，则 (7)(Fatou引理) 若 Xn 0 ，则,44,1.4 特征函数、母函数,特征函数 设随机变量X的分布函数为F(x)，称为X的特征函数 分布律为P(X=xk)=pk，k=1,2,的离散型随机变量X，特征函数为,45,1.4 特征函数、母函数,概率密度为f(x)的连续型随机变量X，特征函数为随机变量的特征函数的性质 (1) (2)g(t)在（-， ）上一致连续,46,1.4 特征函数、母函数,(3)若随机变量X的n阶矩EXn存在，则g(k)(0)=ikEXk，kn (4)g(t)是非负定函数 (5)若X1,X2,Xn是相互独立的随机变量，则X=X1+X2+Xn的特征函数g(t)= g1(t) g2(t) gn(t) (6)随机变量的分布函数由特征函数唯一确定,47,1.4 特征函数、母函数,n维随机变量的特征函数 设X=(X1,X2,Xn)是n维随机变量， t= (t1, t2, tn) Rn，则称为X的特征函数,48,1.4 特征函数、母函数,例 设X服从二项分布B(n,p)，求X的特征函数g(t)及EX、EX2、DX 解 X的分布律为P(X=k)= ，q=1-p，k=0,1,2,n,