通信技术与应用手册_1.docxVIP

通信技术与应用手册

第1章通信系统基础理论

1.1信息论与编码基础

香农信息论的核心在于定义“信息量”，其计算公式为$I=\log_2M$，其中$M$代表消息的可能状态数，单位为比特（bit）。例如，在二进制通信中，一个“开”或“关”的状态，其信息量严格为1bit；若同时包含“开”和“关”两种状态，信息量则为2bit。熵$H(X)$是衡量信源不确定性的统计量，定义为$H(X)=-\sum_{i=1}^{M}p(x_i)\log_2p(x_i)$。若信源只有两种状态且概率相等，则熵达到最大值，即$H(X)=\log_22=1$bit。

霍夫曼编码是一种基于概率的无损压缩算法，它通过构建二叉树来分配码长，使得高频符号分配较短码字，低频符号分配较长码字。例如，在压缩“苹果、香蕉、橙子”时，苹果出现频率最高，应分配1bit，而橙子出现频率最低，应分配3bit。信道编码的“检错”能力取决于冗余度$r$，其最小距离$d_{min}$决定了系统能检测的最大错误次数，公式为$d_{min}=2^r-1$。若$r=2$，则$d_{min}=3$，理论上可检测1位错误。信道编码的“纠错”能力取决于纠错码字长度$t$，满足$t\le(d_{min}-1)/2$。若$d_{min}=7$，则$t