信息论与编码基础知识点电子教案.pdfVIP

名师精编 优秀资料 信息论与编码基础知识点 1． 当代文明的三大科学支柱 2 ． 信 息论发展的过程 3． 研 究信息论的目的 4 ． 信 息理论中度量信息的基本观点 5． 衡量通信系统的性能指标，对应编码是哪些？ 6． 信源符号自信息量的含义与计算 7． 信源符号间互信息量与平均互信息量的三个含义 8． 信源熵的三种物理含义。离散信源的联合熵、条件熵、平 均互信息量的含义及相互之间的关系。 10． 信源的平稳性和无记忆性的含义 11． 离散无记忆信源的信源熵、 N 次扩展的信源熵计算。 N 阶马尔科夫信源的定义 13． 低阶马尔科夫信源的状态转移图、各状态的稳态分布 概率 (状态极限概率 )、极限熵 H =H ∞ n+1 14． 信道容量的含义 15． 常见信道（无噪信道、强对称、对称、准对称）容量 的计算，达到信道容量时对应信源的概率分