(33)--【脚本-PPT】3.11 信源与信道的匹配.ppt

3.11信源与信道的匹配

信源与信道的匹配信源发出的消息(符号)一定要通过信道来传输。对于某一信道来说，其信道容量是一定的，而且只有当输入符号的概率分布P(X)满足一定条件时才能达到信道容量C。这就是说只有一定的信源才能使某一信道的信息传输率达到最大值。一般信源与信道连接时，其信息传输率R=I(X;Y)并未达到最大。

信源与信道的匹配这样，信道的信息传输率还有提高的可能，即信道没有得到充分利用。当信源与信道连接时，若信息传输率达到了信道容量，我们称些信源与信道达到匹配。否则认为信道有冗余。信道冗余度的定义为（3-124）?

C是该信道的信道容量，I(X;Y)是信源通过该信道实际传输的平均信息量。信道的相对冗余度定义为信源与信道的匹配?（3-125）

信源与信道的匹配【例】某离散信源通过无噪无损二元离散信道进行传输。信源的概率空间为求：1.该二元离散信道容量。2.为传输信源X，可采用以下两种信源编码方法计算两种编码的平均信息传输率。3.两种编码的信道冗余度

通过一个无噪无损二元离散信道进行传输，求得二元离散信道的信道容量为C=1比特/信道符号。此信源的信息熵H(S)=1.937比特/信道符号。

对于码C1，可得信道的平均信息传输率为：?

对于码C2，可得信道的平均信息传输率为：?

显然满足R<R<C，信道有冗余。是否存在一种编码，使这种信道的冗余度降到最小值呢？

香农无失真信源编码理论无失真数据压缩理论

无失真信源编码：将信源输出的消息变换成适合信道传输的新信源的消息（符号）来传送，使得新信源的符号接近等概分布，新信源的熵接近最大熵logr，这样一来，信道传输的信息达到最大，信道的冗余度接近零，使信源和信道达到匹配，信道能充分利用。信源与信道的匹配