Shannon与信息论.pptVIP

研究生密码学 第三讲：Shannon与信息论 1、信息论概述 1.1　信息的概念 1.2　信息论研究的对象、目的和内容 1.3 信息论的形成与发展 信息的产生与传播 1.3　信息论的形成和发展 信息论的研究对象是广义的通信系统，它把所有的信息流通系统都抽象成以下的模型： 这个通信系统主要分成五个部分： （1）信源。顾名思义，信源是产生消息和消息序列的源。 （2）编码器。编码就是把消息变成适合在信道传输的物理量，这种物理量称为信号。编码器可分为信源编码器、信道编码器。 信源编码的目的为了提高通信系统的有效性和提高信息传输的可靠性。在实际的通信系统中，可靠性和有效性常常相互矛盾 。 （3）信道。信道是指通信系统把载荷消息的信号从发送端送到接收端的媒介或通道，是包括收发设备在内的物理设施。 （4）译码器。译码就是把信道输出的已迭加了干扰的编码信号进行反变换，变成信宿能够接受的消息。译码器也可分成信源译码器和信道译码器。 （5）信宿。信宿是消息传送的对象，即接受消息的人或机器。 信息论研究的是关于这个通信系统的最根本、最本质的问题。例如： ①什么是信息？如何度量信息？ ②怎样确定信源中含有多少信息量？ ③对于一个信道，它传输信息量的最高极限（信道容量）是多少？ ④为了能够无失真的传输信源信息，对信源编码时所需的最少的码符号数是多少？（无失真信源编码即香农第一定理）