[工学]4_第四章_多符号离散信源与信道.ppt

1. 无记忆性： =1 ２. 无预感性： 反之： 例1. BSC（二进制对称信道） 0 1 0 1 1. 输入： 2. 输出： 3. 传递概率： 信道容量： 小结： 多符号离散信源的数学模型 α1 α2 … αrN p(α1) p(α2) … p(αrN) 离散平稳无记忆信源的信息熵 离散平稳有记忆信源的信息熵 平均符号熵 条件熵有下列关系 平均符号熵与N-1维条件熵 非递增性，H∞ 存在 马尔科夫信源的概念 m阶马尔科夫信源的数学模型 m阶马尔科夫信源的极限熵等于m阶条件熵。 4.５　马尔可夫信源的极限熵 2. M-链的统计特性 m阶马尔可夫信源：信源每次发出的符号只与　　前m个符号有关，与更前面的符号无关。 时齐马尔可夫信源:上述条件概率与时间起点i无关 一步状态 转移矩阵 a1 a2 … ar 3. 各态历经（遍历）定理 4. 状态转移图(Shannon线图) (1)不可约性 (2)非周期性（每一种状态回到自己状态的步数 不存在大于1的公因子） 状态极限概率 一步状态转移概率 a1 a2 … ar 3. 各态历经（遍历）定理 例1. 反射壁 0 1 2 p q p q q p 例2