第四章信道精要.pptVIP

* * * * * * * * * * * * * * * * * * * 所以，计算信道容量就是要选择适当的信道输入消息集合的概率分布{P(x)}，使得信息传输速率达到最大值，于是有 同理，对应K重符号序列，其信道特性为XK，YK，{P(y|x)} 设信源中有N个不同符号，因此共有NK个不同的K重符号序列，其出现概率为P＝{P1， P2，…，PNK} 所以，信道容量为 bit/符号时间 bit/符号序列时间 信道容量的性质： 1、信道容量只是信道转移概率的函数，只与信道的统计特性有关， 而与输入信源的概率分布无关。即对于一个特定的信道，其信道 容量C是确定的。我们只是寻找一种最佳的信源概率分布，使得传输 的信息量能够达到这个信道的容量。 2、在信道转移概率P(y|x) 给定的条件下，平均互信息 I(X；Y) 是输入信源概率P(x) 的∩型函数。当P(x) 取某一值时， I(X；Y) 有最大值，即一定存在有一种信源，使得传输的信息量能够达到 这个信道的容量。 [例] 二进制对称信道 q不变时, I(X;Y)为上凸曲线。p=0.5时有最大值 q q 1 0 Y X 1-H(q) 0 0.5 1 p I(X;Y) 1-H(q) 即信道容量C=1-H(q) * * * * * * * * * * * * * * * * * * * * * * * * * * * * * 有固定约束的不均匀编码信道的信道容量 通过点、划可构成无穷多种组合，形成明码或密码。 设四种基本符号分别为a1, a2, a3, a4。点、划为状态1，字母及单词间隔作为状态2，t 6的间隔均看作单词间隔。 由于发报期间，不允许出现2个及2个以上的字母间隔或单词间隔，即“间隔”不能连用，因此Morse信道存在有固定约束，其状态转移图如图。 状态转移图 * * 先求在时间T内从状态1转移到状态2或从状态1、2转移到状态1的各种可能消息的总数目，分别用N1(T)和N2(T)表示。则 式中 表示在T时间内发的最后一个符号是a3并使状态从状态1改变到状态2的各种可能消息的总数，而a3用的时间为b12；其余类推。 典型无扰离散信道的信道容量 推广之，设从状态i到状态j发的符号为ak，所用的时间为 ，则 b11 —从状态1到状态1，有两种可能： b21 —从状态2到状态1，有两种可能： b12 —从状态1到状态2，有两种可能： b22 —从状态2到状态2，无此可能。 根据表，有 * * 在T时间里构成的消息总数N(T)为 N (T) = N1 (T) + N2 (T) 上式又是一个线性差分方程，由这个差分方程，可得 式中Wmax 为差分方程的特征方程的最大正实根。因此，求出这个最大正实根，也就求出了C。采用迭代法，略去中间过程，可解得，Wmax=1.453 ，故有