信息理论与编码 第6章.pptVIP

例 码2： 00000， 01101，10111，11010 最小距离Dmin＝3，能传送4个消息； 00000 01101 10111 11010 第1位错 10000 11101 00111 01010 第2位错 01000 00101 11111 10010 第3位错 00100 01001 10011 11110 第4位错 00010 01111 10101 11000 第5位错 00001 01100 10110 11011 可纠正信道传输中产生的一位差错。 信道传输中产生的一位差错 00000 01101 10111 11010 第1、2位错 11000 10101 01111 00010 第1、3位错 10100 11001 01011 01110 第1、4位错 10010 11111 00101 01000 第1、5位错 10001 11100 00110 01011 第2、3位错 01100 00001 11011 10110 第2、4位错 01010 00111 11001 10000 第2、5位错 01001 00100 11101 10011 第3、4位错 00110 01011 10001 11000 第3、5位错 00101 01000 10010 11011 第4、5位错 00011 01110 10100 11001 信道传输中产生的两位差错 1°最小距离译码是统计意义上的正确，不能保证译码绝 对无误；即使D 为0，也不能保证译码无误。 2°相同码长的两个码，哪一个码的最小距离Dmin更大， 则其译码的平均差错概率 pE更小。 3°相同码长的两个码，哪一个码的最小距离Dmin越大， 则其传输的信息率 R越小。 3.几点说明 纠错码的基本任务是构造出当R 一定 , 使得d min 尽可 能大的码 ; 或 d min 一定, R 尽可能高的码。 定理 若有一离散无记忆信道，其信道容量为 C ，只要待 传输的信息率 RC，当信道的输入序列长度 n 足够 长时， 总可以找到一种编码，使其译码的平均差错 概率 pE 任意小。 证明 略 1°信息传输率 RC，是保证不会因信道容量不足而产 生的信道传输差错。 2°信道的输入序列长度 n 足够长，减小外界干扰引起 的差错，可以寻求到一种使其译码平均差错概率任 意小的信道编码，。 6.3 信道编码定理 对于离散无记忆信道，平均错误概率为 6.4 错误概率的上界 式中： n — 码长 Er(R) — 随机编码指数，或可靠性函数， Er(R) 是 信息传输率的严格递减函数。 若已知要求的PE 和 R ，并求出Er(R) ，就可以根据 以上公式求出编码长度。 信息论与编码Information Theory Coding第6章????? 有噪信道编码 信道是信号从信源传送到信宿的通路。由于信道有干 扰，使得传送的数据流(码流)中产生误码。 信道编码的目的是提高信息传输或通信的可靠性。信 道编码的任务是降低误码率，使系统具有一定的纠错能和 抗干扰能力，提高数据传输效率。信道编码的过程是在源 数据码流中加插一些码元，达到在接收端进行检错和纠错 的目的。 在带宽固定的信道中，总的传送码率是固定的，由于 信道编码增加了数据量，其结果只能是以降低传送有用信 息码率为代价了。 1. 编码信道 6.1 噪声信道的编码问题 以上虚线框表示编码信道。 1? 信息序列M：信源编码器输出的数字序列，也称为信 源数据码流。 2? 信道编码：信道编码器将M按一定规则编成码字或码 序列X， 码字X 作为信道的输入。 3? 译码：译码器按照一定规则对信道的输出Y 作出判决，纠 错，尽可能准确地还原M。 信道 编码器 信道 信道 译码器 干扰 X M Y 1）与信道的统计特征 (信道转移概率)有关； 2）还与译码规则有关。 例 一个二元对称信道 6.1.1错误概率与译码规则 Y 1-p=0.1 X 0 p=0.9 0 1 1 p=0.9 1-p=0.1 如果规定信道输出为0时，译码译为 0；输出为 1时，译码 译为1，则错误概率为0.9。 如果规定