第一章节 绪论12.pptVIP

《信息理论基础》 一.信息的概念 一.语音信号压缩 * * 参考书： 1.《信息理论基础》北航大学出版社 周荫清主编 2. 《信息论与编码基础》机械工业出版社 戴善荣 编著 3.《通信原理》下册 北京邮电大学出版社 周炯盘、庞沁华、续大我、吴伟陵编著 4. 《信息论与编码》科学出版社 沈连丰 叶芝慧 编著 5.《信息论与编码》 中国科技大学出版社 姜丹编著 课程总成绩100分，由四部分组成：单元测试20分、课堂说与思5分、平时作业和到课率5分、理论考试70分 ①单元测试共3次：信息的度量10分、信源与信道5分、编码5分 ②课堂说与思：学生提出问题、回答问题或参与讨论问题的情况5分，每参与一次给1分，课后提出的、课后与同学或老师讨论的都算在内 ③平时作业和到课率：平时作业3分，到课率2分，主要考察态度问题，确保学生学习的积极性 ④理论考试：由于该门课的理论性很强，必须进行理论考试70分。 课程评价方式 需要掌握的内容： 1.信息的概念及特点 2.信息、消息和信号之间的联系与区别 3.信息论研究的范畴 信息论是20世纪中叶从通信中发展起来的理论，是数学中的概率论与通信技术相结合的边缘学科。 信息论是通信的数学理论，是应用近代数理统计方法研究信息的传输、存储与处理的科学。 关键概念：信息 请问:什么是信息? 信息是信息论中最基本且最重要的概念，它即抽象又复杂。 1.通俗的信息概念 信息是一种消息 2.广义的信息概念 信息是对物质存在和运动形式的一般描述 3.概率信息 香农：信息是事物运动状态或存在方式的不确定性的描述，是用来消除不确定性的东西。 二.信息的特征 信息可交换，交换后可增加信息。 信息是无形的，反映事物的特征、属性、变化， 但与事物是分离的，可传输、保存 。 信息具有普遍性。 信息需要载体。 信息是可度量的。√ 三.信息、消息和信号的含义与差异 信息是抽象的，包含在消息之中，是通信系统中传送的对象。 消息是比较具体的，消息中包含信息，是信息的载荷者，消息有不同的形式 信号是消息的表现形式，消息则是信号的具体内容，信号是消息的载体 一.信息论研究的对象 信源 信宿 信道 编码器 译码器 噪声源 信号 消息 含噪信号 干扰 消息 消息可用随机变量或随机过程描述。 信源研究的主要内容： 1.消息的统计特性 2.信源产生信息的速率 4. 如何确定信源的输出含有的信息量 1.信源:产生消息和消息序列的源 为什么? 3.如何度量信息量 2.编码器——将信源发出的消息变换成适于信道传 送的信号的设备 信号 信源 信道 信源编码器 信道编码器 噪声源 消息 信号+干扰 干扰 消息 纠错编码器 调制器 信宿 信源译码器 纠错译码器 解调器 信道译码器 编码器包括信源编码器和信道编码器 信源编码器—— 在一定准则下，它对信源输出的消息 进行适当的变换和处理 目的：压缩信源冗余度，提高信息传输的效率 信源编码器分为无失真信源编码和限失真信源编码 无失真信源编码 —保证信源发出的信息全部无误到达信宿 限失真信源编码 —信源发出的信息允许有一定失真，不要求 全部到达信宿 解决的问题：在不允许有失真的情况下怎样通过压缩 信源的冗余度来提高信息传输率 解决的问题：在允许有失真的情况下怎样用尽可能少的码符号来表示信源的信息 纠错编码器——有目的地对信源编码器的输出添加一些特 殊的码元，使之更具有规律性 目的：提高对干扰的抗击能力，即提高信息传输的可靠性 调制器——将纠错编码器的输出变成适合信道传输要求的信 号形式 纠错编码器和调制器的组合称为信道编码器 信道编码主要解决：在有噪信道中是否可能以接近信道 容量的信息传输率传输信息而错误概率几乎为零的问题 3.信道——把载荷信息的信号从发射端传送到接收 端的媒体或通道，包括收发设备在内的 物理设备 信道即能传播信号，还能存储信号 通信系统中实际信道有：架空