第六章信道编码定理.pptVIP

联合ε典型序列定义： 设 是长为N的随机序列对， 则在这些随机序列对中满足下列条件的序列对被称为联合典型序列 同理可得： 式中δ是任意小的数，联合典型序列的全体构成联合典型序列集，记做G 。按此定义不难得到随机序列对 取某联合典型序列 的概率 满足： §6.3:信道编码定理的证明及其物理意义 联合AEP定理： 设随机序列对 的 ，则对任意小的数δ 0，我们总能找到足够大的N使全体序列对的集合能被分成满足下述条件的集合G及其补集Gc： （1） （2） （3）设 是相互独立的随机序列对，但它与 有相同的边缘分布，即： 则： §6.3:信道编码定理的证明及其物理意义 … … … … … … 联合AEP定理的解释： 两个随机变量情况下，序列Xn,Yn及其联合序列XnYn都具有AEP特性 联合典型序列对是高概率序列对 联合典型序列对是一些密切关联的序列对 一般与X对应的Y可能是Y空间的任一个，该定理说明：随N的增大，对应X的Y只能是（X,Y)典型序列对的Y，取其他Y的概率?0 联合典型序列数目为2NH(XY)， 典型X,典型Y随机组合的空间为2N[H(X)+H(Y