信息论基础-－金锄头文库

信息论基础第七讲连续信源连续信源：是指消息在取值上（幅度）是连续的，有些在时间上或频率上也是连续的，这样的信源就称为连续信源。单变量连续信源的输出是取值连续的一维随机变量。这样的信源可以用变量的概率密度函数，变量间的条件概率密度函数和联合概率密度函数来描述。在时间和取值上都连续的信源（波形信源）可用随机过程来描述。随机过程可分为平稳随机过程和非平稳随机过程。一般认为，通信系统中的随机过程都是平稳的随机过程。单变量连续信源单变量连续信源单变量连续信源波形信源的熵前面已经说过，在时间（或频率）和取值上都连续的信源（波形信源）可用平稳随机过程来描述。平稳随机过程可以通过采样，变换成时间上或频率上离散，而幅度连续的平稳随机序列，因而平稳随机过程的熵也就是平稳随机序列的熵。波形信源的熵波形信源的熵和离散变量中的过程一样，有如下结果：仅当随机序列中各个变量统计独立时等式成立几种特殊连续信源的熵高斯分布的连续信源的熵指数分布的连续信源的熵连续熵的性质连续熵的性质最大连续熵定理最大连续熵定理最大连续熵定理连续信源的信息变差熵功率本讲结束