信息论与编码理论-全.ppt

失真－率函数 给定信息率，找最小的失真的编码方式 率失真函数的基本性质 率失真函数定义域 不允许最小失真小于某一值，D≥Dmin Dmax是使R(D)=0的D的最小值 令PD是使I(Pji)＝0的全体转移概率的集合 率失真函数的定义域 I(Pji)=0的充要条件是U和V统计独立 R(D)性质 R(D)是下凸函数 R(D)是D的连续单调减函数 有失真时的逆信源编码定理 当速率小于R(D)时，不论采取什么方式，平均失真必大于D. 第七章 信道编码 线性分组码 信息位，信息空间 码字，码空间 分组码：n维线性空间中的k维子空间 参数（n,k,d），n是码长，k是信息位长度，d是最小汉明距离 汉明重量：向量x中非零分量的数目 最小距离：所有码字中最小非零重量 GF（2）上的向量 GF(2) 包含0,1 定义了两个运算 加法：0＋0＝0，0＋1＝1＋0＝1，1＋1＝0 乘法：0×0＝0，0×1＝0，1×0＝0，1×1＝1 d(x,y)=w(x+y) 生成矩阵 K维子空间的基底 C=u0g0+u1g1+…+uk-1gk-1 (7,4)汉明码 消息序列 码字 消息序列 码字 0000 0001 0010 0011 0100 0101 0110 0111 0000000 1010001 1110010 0100011 0110100 1100101 1000110 0010111 1000 10