.第第 1 1 章章随机事件及其概率随机事件及其概率nPm1 排列组合公式nCmm!从 m 个人中挑出 n 个人进展排列的可能数。(m n)!m!从 m 个人中挑出 n 个人进展组合的可能数。n!(m n)!2 加法和乘法原理加法原理两种方法均能完成此事加法原理两种方法均能完成此事 ：m+nm+n某件事由两种方法来完成， 第一种方法可由 m 种方法完成， 第二种方法可由 n种方法来完成，那么这件事可由m+n 种方法来完成。乘法原理两个步骤分别不能完成这件事乘法原理两个步骤分别不能完成这件事 ：m mn n某件事由两个步骤来完成， 第一个步骤可由 m 种方法完成， 第二个步骤可由 n种方法来完成，那么这件事可由mn 种方法来完成。重复排列和非重复排列有序对立事件至少有一个顺序问题如果一个试验在一样条件下可以重复进展，而每次试验的可能结果不止一个，但在进展一次试验之前却不能断言它出现哪个结果， 那么称这种试验为随机试验。试验的可能结果称为随机事件。在一个试验下，不管事件有多少个， 总可以从其中找出这样一组事件， 它具有如下性质：每进展一次试验，必须发生且只能发生这一组中的一个事件；任何事件，都是由这一组中的局部事件组成的。这样一组事件中的每一个事件称为根本领件，用来表示。根本领件的全体，称为试验的样本空间，用表示。一个事件就是由中的局部点根本领件组成的集合。通常用大写字母A，B，C，表示事件，它们是的子集。为必然事件， 为不可能事件。不可能事件 的概率为零， 而概率为零的事件不一定是不可能事件； 同理，必然事件的概率为 1，而概率为 1 的事件也不一定是必然事件。关系：如果事件 A 的组成局部也是事件B的组成局部，A发生必有事件B发生 ：如果同时有A B，B A， 那么称事件A与事件B等价， 或称A等于B：A=B。A、B中至少有一个发生的事件：AB，或者A+B。属于A而不属于B的局部所构成的事件，称为A 与B的差，记为A-B，也可表示为A-AB或者AB，它表示A发生而B不发生的事件。3 一些常见排列4 随机试验 和 随 机事件5 根本领件、样本空间和事件A B6 事件的关 系 与 运算A、B同时发生：AB，或者AB。AB=，那么表示A 与 B 不可能同时发生，称事件 A 与事件 B 互不相容或者互斥。根本领件是互不相容的。.v.-A 称为事件 A 的逆事件，或称 A 的对立事件，记为A。它表示 A 不发生的事件。互斥未必对立。运算：结合率：A(BC)=(AB)CA(BC)=(AB)C分配率：(AB)C=(AC)(BC)(AB)C=(AC)(BC)德摩根率：i1A Aii1iA B A B，A B A B7 概率的公 理 化 定义设为样本空间，A为事件，对每一个事件A都有一个实数 P(A)，假设满足以下三个条件：1 0P(A)1，2 P() =13 对于两两互不相容的事件A1，A2，有常称为可列完全可加性。那么称 P(A)为事件A的概率。PAiP(Ai)i1i11,2n，1 2P(1) P(2) P(n) 8 古典概型1。n设任一事件A，它是由1,2m组成的，那么有P(A)=(1)(2)(m)=P(1) P(2) P(m)mA所包含的基本事件数基本事件总数n9 几何概型假设随机试验的结果为无限不可数并且每个结果出现的可能性均匀， 同时样本空间中的每一个根本领件可以使用一个有界区域来描述， 那么称此随机试验为几何概型。对任一事件A，P(A) 10加法公式11减法公式L(A)。其中 L 为几何度量长度、面积、体积 。L()P(A+B)=P(A)+P(B)-P(AB)当 P(AB)0 时，P(A+B)=P(A)+P(B)P(A-B)=P(A)-P(AB)当 BA 时，P(A-B)=P(A)-P(B)当 A=时，P(B)=1- P(B)定义设 A、B 是两个事件，且 P(A)0，那么称P(AB)为事件 A 发生条件下，P(A)12条件概率P(AB)事件 B 发生的条件概率，记为P(B/ A) 。P(A).v.条件概率是概率的一种，所有概率的性质都适合于条件概率。例如 P(/B)=1P(B/A)=1-P(B/A)乘法公式：P(AB) P(A)P(B/ A)更一般地，对事件 A1，A2，An，假设 P(A1A2An-1)0，那么有13乘法公式P(A1A2An) P(A1)P(A2| A1)P(A3| A1A2)P(An| A1A2An 1)。两个事件的独立性两个事件的独立性设事件A、B满足P(AB) P(A)P(B)，那么称事件A、B是相互独立的。假设事件A、B相互独立，且P(A) 0，那么有P(B | A) 14独立性P(AB)P(A)P(B) P(B)P(A)P(A)假设事件A、B相互独立，那么可得到A与B、A与B、A与B也都相互独立。必然事件和不可能事件 与任何事件都相互独立。 与任何事件都互斥。多个事件的独立性多个事件的独立性设 ABC 是三个事件，如果满足两两独立的条件，P(AB)=P(A)P(B)；P(BC)=P(B)P(C)；P(CA)=P(C)P(A)并且同时满足 P(ABC)=P(A)P(B)P(C)那么 A、B、C 相互独立。对于 n 个事件类似。设事件B1,B2,Bn满足1B1,B2,Bn两两互不相容，P(Bi) 0(i 1,2,n)，15全概公式2那么有A Bii1n，P(A) P(B1)P(A| B1) P(B2)P(A| B2) P(Bn)P(A| Bn)。设事件B1，B2，Bn及A满足1B1，B2，Bn两两互不相容，P(Bi)0，i2那么1，2，n，A Bii1n，P(A) 0，16贝叶斯公式P(Bi/ A) P(Bi)P(A/ Bi)P(B )P(A/ B )jjj1n，i=1，2，n。此公式即为贝叶斯公式。P(Bi)， i 1，2，n ，通常叫先验概率。P(Bi/ A)， i 1，2，n ，通常称为后验概率。贝叶斯公式反映了“因果的概率规律，并作出了.v.“由果朔因的推断。我们作了n次试验，且满足每次试验只有两种可能结果，A发生或A不发生；n次试验是重复进展的，即A发生的概率每次均一样；每次试验是独立的，即每次试验A发生与否与其他次试验A发生与否是互不影响的。17伯努利概型这种试验称为伯努利概型，或称为n重伯努利试验。用p表示每次试验A发生的概率，那么A发生的概率为1 p q，用Pn(k)表示n重伯努利试验中A出现k(0 k n)次的概率，Pn(k) Cnpkqnk，k 0,1,2,n。/gk第二章第二章随机变量及其分布随机变量及其分布1离散型随机变量的分布律设离散型随机变量X的可能取值为 Xk(k=1,2,)且取各个值的概率， 即事件(X=Xk)的概率为P(X=xk)=pk，k=1,2,，kn那么称上式为离散型随机变量X的概率分布或分布律。有时也用分布列的形式给出：Xx1,x2,xk,|P(X xk)p1, p2, pk,。显然分布律应满足以下条件：1pk 0，k 1,2,，2k12连续型随机变量的分布密度pk1。设F(x)是随机变量X的分布函数，假设存在非负函数f (x)，对任意实数x，有F(x) f (x)dxx，那么称X为连续型随机变量。f (x)称为X的概率密度函数或密度函数， 简称概率密度。密度函数具有下面 4 个性质：1f (x) 0。23离散与连续型随机变量的关系f (x)dx 1。P(X x) P(x X x dx) f (x)dx积分元f (x)dx在连续型随机变量理论中所起的作用与P(X xk) pk在离散型随机变量理论中所起的作用相类似。.v.4分布函数设X为随机变量，x是任意实数，那么函数F(x) P(X x)称为随机变量 X 的分布函数，本质上是一个累积函数。P(a X b) F(b) F(a)可以得到 X 落入区间(a,b的概率。分布函数F(x)表示随机变量落入区间，x的概率。分布函数具有如下性质：10 F(x) 1, x ；2F(x)是单调不减的函数，即x1 x2时，有F(x1) F(x2)；3F() limF(x) 0，F() limF(x) 1；xx4F(x 0) F(x)，即F(x)是右连续的；5P(X x) F(x) F(x 0)。对于离散型随机变量，F(x) xkxxpk；对于连续型随机变量，F(x) 5八大分布0-1 分布二项分布f (x)dx。P(X=1)=p, P(X=0)=q在n重贝努里试验中，设事件A发生的概率为p。事件A发生的次数是随机变量，设为X，那么X可能取值为0,1,2,n。kP(X k) Pn(k) Cnpkqnk，其中q 1 p,0 p 1,k 0,1,2,n，那么称随机变量X服从参数为n，p的二项分布。记为X B(n, p)。当n 1时，P(X k) p qk1k，k 0.1，这就是0-1分布，所以0-1分布是二项分布的特例。.v.泊松分布设随机变量X的分布律为P(X k) kk!e， 0，k 0,1,2，那么称随机变量X服从参数为的泊松分布，记为X ()或者 P()。泊松分布为二项分布的极限分布np=，n 。超几何分布knkk 0,1,2,lCMCNMP(X k) ,nl min(M,n)CN随机变量 X 服从参数为 n,N,M 的超几何分布，记为H(n,N,M)。几何分布P(X k) qk1p,k 1,2,3,，其中 p0，q=1-p。随机变量 X 服从参数为 p 的几何分布，记为 G(p)。设随机变量X的值只落在a，b，其密度函数f (x)在a，b上为常数均匀分布1，即b a1axb,f (x) b a其他，0,那么称随机变量X在a，b上服从均匀分布，记为XU(a，b)。分布函数为0，xb。当 ax1x2b 时，X 落在区间x1,x2的概率为P(x1 X x2) x2 x1。b a.v.指数分布f (x) ex,x 0,0,x 0,其中 0，那么称随机变量 X 服从参数为的指数分布。X 的分布函数为F(x) 1ex,x 0,0,x2)n 2E(X) xipii1E(X) xfX(x)dxE(Y) yjp jj1nE(Y) yfY(y)dy函数的期望EG(X,Y)EG(X,Y)G(x , yiijj)pij G(x, y) f (x, y)dxdy方差D(X) xi E(X)2piiD(X) x E(X)2fX(x)dxD(Y) xjE(Y)2p jjD(Y) y E(Y)2fY(y)dy协方差对于随机变量 X 与 Y，称它们的二阶混合中心矩11为 X 与 Y 的协方差或相关矩，记为XY或cov(X,Y)，即XY E(X E(X)(Y E(Y). EXY EXEY与记号XY相对应，X 与 Y 的方差 DX与DY也可分别记为XX与YY。.v.相关系数对于随机变量 X 与 Y，如果 DX0, D(Y)0，那么称XYD(X)D(Y)为 X 与 Y 的相关系数，记作XY有时可简记为 。|1， 当|=1时， 称X与Y完全相关：P(X aY b) 1完全相关正相关，当1时(a 0)，负相关，当 1时(a 0)，而当 0时，称 X 与 Y 不相关。以下五个命题是等价的：XY 0；cov(X,Y)=0;E(XY)=E(X)E(Y);D(X+Y)=D(X)+D(Y);D(X-Y)=D(X)+D(Y).6协 方差 的性质7独 立和 不相关(i)(ii)(iii)(iv)cov (X, Y)=cov (Y, X);cov(aX,bY)=ab cov(X,Y);cov(X1+X2, Y)=cov(X1,Y)+cov(X2,Y);cov(X,Y)=E(XY)-E(X)E(Y).假设随机变量 X 与 Y 相互独立，那么XY 0；反之不真。第五章第五章大数定律和中心极限定理大数定律和中心极限定理1大数定律X 切比雪夫大数定律设随机变量 X1，X2，相互独立，均具有有限方差，且被同一常数 C 所界：DXiC(i=1,2,),那么对于任意的正数，有 1n1nlim PXiE(Xi) 1.nnni1i1特殊情形：假设 X1，X2，具有一样的数学期望EXI=，那么上式成为 1nlim PX i1.nni1.v.伯努利大数定律设是 n 次独立试验中事件 A 发生的次数，p 是事件 A 在每次试验中发生的概率，那么对于任意的正数，有limP p 1.nn伯努利大数定律说明，当试验次数 n 很大时，事件 A 发生的频率与概率有较大判别的可能性很小，即lim P p 0.nn这就以严格的数学形式描述了频率的稳定性。辛钦大设 X1，X2，Xn，是相互独立同分布的随机变量序列，且数定律EXn=，那么对于任意的正数有 1nlim PX i1.nni12中心极限定理列维设随机变量 X1，X2，相互独立，服从同一分布，且具有林德伯一样的数学期望和方差：格定理E(Xk) ,D(Xk) 2 0(k 1,2,)，那么随机变量X N(,2n)YnXk1nk nn的分布函数Fn(x)对任意的实数x，有nX nk1k1lim Fn(x) lim P xnnn2此定理也称为独立同分布的中心极限定理。棣莫弗拉普拉斯定理xet22dt.设随机变量Xn为具有参数 n, p(0p1)的二项分布，那么对于任意实数 x,有Xn np lim P xnnp(1 p)12xet22dt.3二项定理假设当N 时,Mp(n,k不变)，那么NknkCMCNkkM Cnp (1 p)nk(N ).nCN超几何分布的极限分布为二项分布。.v.4泊松定理假设当n 时,np 0，那么knknkC p (1 p)kk!e(n ).其中 k=0，1，2，n，。二项分布的极限分布为泊松分布。第六章第六章 样本及抽样分布样本及抽样分布1 数理统计 的 根 本概念总体在数理统计中，常把被考察对象的某一个或多个指标的全体称为总体 或母体 。 我们总是把总体看成一个具有分布的随机变量或随机向量 。总体中的每一个单元称为样品或个体 。我们把从总体中抽取的局部样品x1, x2, xn称为样本。样本中所含的样品数称为样本容量， 一般用 n 表示。 在一般情况下，总是把样本看成是 n 个相互独立的且与总体有一样分布的随机变量，这样的样本称为简单随机样本。在泛指任一次抽取的结果时，x1, x2, xn表示 n 个随机变量样本 ；在具体的一次抽取之后，x1, x2, xn表示 n 个具体的数值样本值 。我们称之为样本的两重性。样本函数和统计量设x1, x2, xn为总体的一个样本，称个体样本g gx1, x2, xn为样本函数，其中g为一个连续函数。如果g中不包含任何未知参数，那么称gx1, x2, xn为一个统计量。.v.常见统计量及其性质样本均值1nx xi.ni1样本方差1nS(xi x)2.n 1i12样本标准差1nS (xi x)2.n 1i1E(X) ，D(X) 2n，E(S2) 2，E(S *2) 2n 12,n1n2其中S * (Xi X)，为二阶中心矩。ni12 正态总体 下 的 四大分布正态分布设x1, x2, xn为来自正态总体N(,)的一个样本，那么样本函数2ut 分布defx /n N(0,1).2设x1, x2, xn为来自正态总体N(,)的一个样本，那么样本函数tdefx s/n t(n 1),其中 t(n-1)表示自由度为 n-1 的 t 分布。2分布设x1, x2, xn为来自正态总体N(,)的一个样本，那么样本函数2w2def(n 1)S222(n 1),2其中(n 1)表示自由度为 n-1 的分布。.v.F 分布2设x1, x2, xn为来自正态总体N(,1)的一个样本，而2y1, y2, yn为来自正态总体N(,2)的一个样本，那么样本函数F其中defS12/12S/2222 F(n11,n21),1n11n222S(xi x) , S2(yi y)2;n11i1n21i121F(n11,n21)表示第一自由度为n11，第二自由度为n21的 F 分布。3 正态总体 下 分 布的性质X与S2独立。第七章第七章参数估计参数估计1 点估计矩估计不要求.v.极 大 似然估计当 总 体X为 连 续 型 随 机 变 量 时 ， 设 其 分 布 密 度 为f (x;1,2,m)， 其 中1,2,m为 未 知 参 数 。 又 设x1,x2,xn为总体的一个样本，称L(1,2,m) f (xi;1,2,m)i1n为样本的似然函数，简记为Ln.当 总 体X为 离 型 随 机 变 量 时 ， 设 其 分 布 律 为PX x p(x;1,2,m)，那么称L(x1,x2,xn;1,2,m) p(xi;1,2,m)i1n为样本的似然函数。假设似然函数L(x1,x2,xn;1,2,m)在1,m处2取到最大值，那么称1,m分别为1,2,m的最大似然估2计值，相应的统计量称为最大似然估计量。lnLni 0,i 1,2,mii)为g()的假设为的极大似然估计，g(x)为单调函数，那么g(极大似然估计。2 估计量的评选标准无偏性设(x1,x2,xn)为未知参数的估计量。假设E=，那么称为的无偏估计量。EX=EX ， ES2=DX有效性设11(x1,x,2,xn)和22(x1,x,2,xn)是未知参数的两个无偏估计量。假设D(1) D(2)，那么称1比2有效。.v.一致性设n是的一串估计量，如果对于任意的正数，都有nlimP(|n|) 0,那么称n为的一致估计量或相合估计量 。) 0(n ),那么为的一致估假设为的无偏估计，且D(计。只要总体的 E(X)和 D(X)存在，一切样本矩和样本矩的连续函数都是相应总体的一致估计量。3 区置 信 区间估计间 和 置信度设总体 X 含有一个待估的未知参数。如果我们从样本x1,x,2,xn出发，找出两个统计量11(x1,x,2,xn)与22(x1, x,2, xn)(12)， 使 得 区 间1,2以1(0 1)的概率包含这个待估参数，即P121,那么称区间1,2为的置信区间，1为该区间的置信度或置信水平 。单 正总 体期 望方 差区 间计态的和的估设x1,x,2,xn为总体X N(,)的一个样本，在置信度为1下，我们来确定和的置信区间1,2。具体步骤如下：i选择样本函数；ii由置信度1，查表找分位数；iii导出置信区间1,2。22.v.方差，估计均值i选择样本函数u x 0/n N(0,1).(ii) 查表找分位数x P 1.0/niii导出置信区间00x u,x unn0u1未知方差，估计均值i选择样本函数2t x S /n t(n 1).(ii)查表找分位数x P1.S /niii导出置信区间SS x tn1,x tn1nn方差的区间估计i选择样本函数w (n 1)S222(n 1).ii查表找分位数(n 1)S2P21.21iii导出的置信区间(n1)S2(n1)S2(2,2)2(n1)12(n1)第八章第八章假设检验假设检验.v.根本思想假设检验的统计思想是，概率很小的事件在一次试验中可以认为根本上是不会发生的，即小概率原理。为了检验一个假设H0是否成立。我们先假定H0是成立的。如果根据这个假定导致了一个不合理的事件发生， 那就说明原来的假定H0是不正确的， 我们拒绝承受H0；如果由此没有导出不合理的现象，那么不能拒绝承受H0，我们称H0是相容的。与H0相对的假设称为备择假设，用H1表示。这里所说的小概率事件就是事件K R，其概率就是检验水平，通常我们取=0.05，有时也取 0.01 或 0.10。根本步骤假设检验的根本步骤如下：(i)提出零假设H0；(ii)选择统计量K；(iii)对于检验水平查表找分位数；(iv)由样本值x1, x2, xn计算统计量之值K；将K与进展比拟，作出判断：当| K |(或K )时否认H0，否那么认为H0相容。两类错误第一类错误当H0为真时，而样本值却落入了否认域，按照我们规定的检验法那么，应当否认H0。这时，我们把客观上H0成立判为H0为不成立即否认了真实的假设 ，称这种错误为“以真当假的错误或第一类错误，记为犯此类错误的概率，即P否认H0|H0为真=；此处的恰好为检验水平。当H1为真时，而样本值却落入了相容域，按照我们规定的检验法那么，应当承受H0。这时，我们把客观上H0。不成立判为H0成立 即承受了不真实的假设 ， 称这种错误为 “以假当真的错误或第二类错误，记为犯此类错误的概率，即P承受H0|H1为真=。两类错误的关系人们当然希望犯两类错误的概率同时都很小。 但是， 当容量 n 一定时，变小，那么变大；相反地，变小，那么变大。取定要想使变小，那么必须增加样本容量。在实际使用时，通常人们只能控制犯第一类错误的概率， 即给定显著性水平。 大小的选取应根据实际情况而定。当我们宁可“以假为真、而不愿“以真当假时， 那么应把取得很小，如 0.01，甚至 0.001。反之，那么应把取得大些。.v.第二类错误.单正态总体均值和方差的假设检验条件零假设统计量对应样本函数分布否认域H0:0|u | uU x 012 2H0:0H0:0H0:00/nN0，1u u1u u1|t |tT x 0S /n12(n 1)未知2H0:0H0:0t(n 1)t t1(n 1)t t1(n 1)2w (n 1)或H0:22未知22wH0:220(n 1)S202w 212(n 1)(n 1)2w 12(n 1)2w (n 1)2H0:20.v.