信息论和编码全部课件.ppt

1 绪论 1.1 信息的概念 1.1.1 信息的定义与性质 1.1.2 信息的分类 1.2 信息传输系统的组成及功能 1.2.1 模拟信息传输系统 1.2.2 数字信息传输系统 1.3 信息论研究对象和内容 1.4 信息论发展简史 1.1.1 信息的定义与性质 古时的通信：烽火台 信息传播五阶段： 手势和语言——文字——印刷术——电磁波——计算机和通信 微电子技术、通信技术和计算机技术促进了信息技术发展。 信息产业的发展促进了社会产业结构的变化与发展。 1.1.1 信息的定义与性质 信息：认识主体所感受的或所表达的事物的运动状态和运动状态的变化方式。 （1）信息是普遍存在的。 （2）信息与物质。 （3）信息与能量。 （4）人类认识事物，变革事物必须要有信息。 信息载体：运载信息的物质。 1.1.1 信息的定义与性质 消息：以文字、语音、图像等这些能够为人们的感觉器官所感知的物理现象，把客观物质运动和主观思维活动的状态表达出来就成为消息。 1.1.1 信息的定义与性质 信息——十分抽象而又复杂的概念，是人们对客观事物感触到的新认识。 消息——信息的载荷者，是描述信息的一种表现形式，是对某个事物的描述和反应。 信号——运载或携带消息的任何物理量，达到迅速有效地传递和交换信息的目的。 1.1.1 信息的定义与性质 性质： （1）普遍性：信息是普遍存在的。 （2）无限性：信息是无限的。 （3）相对性：对同一事物不同的观察者所获得的信息量可能不同。 1.1.1 信息的定义与性质 （6）有序性：信息可以用来消除系统的不定性，增加系统的有序性。 （7）动态性：信息具有动态性质，一切活的信息都随时间变化，具有时效性。 （8）转化性：在一定条件下，信息可以转化为物质、能量、时间等。 1.1.2 信息的分类 （1）从性质分：语法信息、语义信息、语用信息。 1.1.2 信息的分类 举例说明，两个布袋中装有对人手感觉完全一样的球，但颜色和数量不同， （1）50个红球和50个白球 （2）红球、白球、黑球、黄球各25个 随意拿出一个球，被告知是红球所获得的信息量。 1.1.2 信息的分类 （2）按观察的过程分：实在信息、先验信息、实得信息。 （3）按信息的地位分：客观信息、主观信息。 （4）按作用分：有用信息、无用信息、干扰信息。 1.1.2 信息的分类 （7）按生成领域分：宇宙信息、自然信息、社会信息、思维信息等。 （8）按应用部门分：工业信息、农业信息、军事信息、政治信息、科技信息、文化信息等。 1.2.1 模拟信息传输系统 该系统传递的是模拟信号，它在任意时刻的取值是任意的，是时间的连续函数。基本模型如图1.1 所示： 1.2.1 模拟信息传输系统 信息源：产生含有信息的消息，是被传输的对象。 信息宿：信息传送的目的地，即原消息的归宿或接受者。 1.2.1 模拟信息传输系统 变换器：将非电量变换成宜于远距离传输的电信号。 反变换器：将信息信号恢复成原消息。 1.2.1 模拟信息传输系统 调制器：将频率较低的信号调制到频率更高的载波信号上。(调制方式有调幅AM、调频FM、调相、单边带调制SSB等)。 1.2.1 模拟信息传输系统 发射机：变频器和功率放大器，使已调载波信号的频率和功率达到实际应用所要求的数值。 1.2.1 模拟信息传输系统 信道：消息的信号从发射端传到接受端的媒质或通道。（有线信道：架空明线、同轴电缆、波导、光纤等；无线信道：无线电波、激光自由空间传播等） 1.2.2 数字信息传输系统 该系统中传输的是数字信号，它只能取有限个离散值，且出现的时间也是离散的。基本模型如图1.2 所示： 1.2.2 数字信息传输系统 调制方式有幅度键控ASK、频移键控FSK、相移键控PSK等。 1.2.2 数字信息传输系统 优点： （1）抗干扰能力强，特别在中继传输中尤为明显。 （2）可以进行差错控制，提高了信息传输的灵活性。 1.2.2 数字信息传输系统 （5）易于与其他系统配合使用，构成综合业务信息传输网。 （6）易于集成化和大规模生产，性能一致性好且成本低。 1.3 信息论研究对象和内容 研究对象：消息传输系统即信息传输系统，通信系统。 1.3 信息论研究对象和内容 研究内容： （1）通信的统计理论的研究。 （2）信源的统计特性的研究。 （3）收信者接受器官的研究。 1.3 信息论研究对象和内容 信息论的三个层次： （1）信息论基础（狭义信息论）：主要研究信息的测度、信道容量、信源和信道编码理论等问题。 1.4 信息论发展简史 电信系统的发展： 电磁理论和电子学理论的发展促进了电信系统的创造发明或改进。 1823年-1835年，莫尔斯建立了电报系统。 1876年，贝尔发明了电话系统。 1.4 信息论发