191第 2 章作业1 同时扔一对均匀的骰子，当得知“两骰子面朝上点数之和为 2”或“面朝上点数之和为8”或“两骰子面朝上点数是 3 和 4”时，试问这三种情况分别获得多少信息量？2 居住在某地区的女孩中有 25%是大学生,在大学生中有 75%是身高 1.6 以上的，而女孩中身高 1.6 米以上的占总数一半.假如我们得知“身高 1.6 米以上的某女孩是大学生”的消息，问获得多少信息量？解： 信息量： 比特3 设离散无记忆信源 ，其发出的消息为123403/8/41/8XaaP （202120130213001203210110321010021032011223210） ，求（1） 求每个符号的自信息量；192（2） 若信源发出一消息符号序列为(202 120 130 213 001 203 210 110 321 010 021 032 011 223 210)，求该消息序列的自信息量及平均每个符号携带的信息量。4 有一信源输出 X0,1,2，其概率为 p0=1/4，p 1=1/4，p 2=1/2。设计两个独立实验去观察它，其结果为 Y10,1和 Y20,1。已知条件概率为P(Y1|X) 0 1 P(Y2|X) 0 10 1 0 0 1 01 0 1 1 1 02 1/2 1/2 2 0 1求：1) I(X;Y1)和 I(X;Y2)，并判断哪一个实验好些。2) I(X;Y1,Y2)，并计算做 Y1 和 Y2 两个实验比做 Y1 或 Y2 中的一个实验各可多得多少关于 X 的信息。3) I(X;Y1/Y2)和 I(X;Y2/Y1)，并解释它们的含义。193Y1Y2Y1Y2X解：（1） 21041)0()0(211 i iXYPiYP(11类似的 2)0)22symbitYH/log()1=0.5bit/sym)/(log)()11ijijiji xPxPXI(X;Y1)= =0.5 bit/sym)(/X=0 bit/sym)/(l)()222 ijijiji xyxyYI(X;Y1)= =1bit/sym )(2HYI(X;Y1) H2 , 表示的物理含义是：无记忆信源的不确定度大与有记忆信源的不确定度，有记忆信源的结构化信息较多，能够进行较大程度的压缩。黑白p ( 黑/ 黑) = 0 . 8e 1e 2p ( 白/ 白) = 0 . 9p(白/白)=0.1p(白/黑)=0.219183 21 设有二个离散信道，其分别输入为 X1 和 X2，输出为 Y1 和 Y2，对应这二个信道的传递概率为 p1(y/x)和 p2(y/x)，如图 3.39 所示。其 X1 和 X2 的概率分布分别为 P1(x) 和 P2(x)。图 3.39 题 3.21 的信道1919