通信原理07.pptVIP

通信原理课程建设教材系列 7.1引言 7.2信源的分类及其统计特性 7.3信息熵 7.4互信息 7.5无失真离散信源编码定理 信源和信道：信源是产生信息的源，信道则是传送载荷信息的信号所通过的通道，信源与信宿之间的通信是通过信道来实现的。 度量通信的技术性能主要是从通信的数量与质量两方面来讨论的，一般数量指标用有效性度量，而质量指标用可靠性度量。前者主要与信源统计特性有关，而后者则主要决定于信道的统计特性。  单消息符号信源：不妨假设信源中仅含有一个消息符号，而这个消息是一个不确定量，比如它可以是二进制数中的“0”或“1”，也可以是英文26个字母中的某一个字母，还可以是中文数千个单字中的某一个单字，称它为单消息符号信源。 它们之间，有如下主要性质：信源、信宿之间以互信息可直接定义 对于互信息有下列主要基本数学性质： 倘若不考虑信源的统计特性，为了实现无失真并有效地编码，应分别满足： 典型的Shannon第一变长编码定理形式 典型Shannon第一等长编码定理形式具体实现可分为等长码与变长码两类。 1 等长编码 2 变长编码 将信源消息X按概率大小自上而下排序； 从最小两个概率开始编码，并赋予一定规则； 将已编码的两支路概率合并，并重新排序、编码； 重复步骤3，直至合并概率归一时为止； 从概率归一端沿树图路线逆行至对应消息和概率，并将沿线已编的“0”与“1”