信息理论与编码40学时第1章 绪论.pptVIP

信 息 论 与 编 码 技 术40学时 贾慧娟 计算机学院 stuwxtx@163.com Password:jiahuijuan 教材 教材：《信息论与编码》第2版 电子工业出版社 十一五规划教材 陈运 主编 参考书： 《信息论基础》 电子工业出版社 黄佳庆 主编 《信息论与编码基础》 电子工业出版社 唐朝京 主编 《信息论基础》 北京航空航天大学出版社 周荫清 主编 《信息论与编码》 清华大学出版社 前续课程 概率论与数理统计 线性代数 后继课程 计算机网络 无线网络技术 密码学 主 要 内 容 第1章 概论 主要内容： 1.1 信息的一般概念 1.2 通信系统模型 1.3 信息论的起源、发展 1.4 信息论的研究内容 第1章 概论 主要内容： 1.1 信息的一般概念 1.2 通信系统模型 1.3 信息论的起源、发展 1.4 信息论的研究内容 信息的定义 通俗地理解：信息被认为是消息、知识、情报。信息与其联系密切，但信息的定义更深刻、广泛。 信息不等同于消息：有神秘人士告诉你两条绝密消息： 世界银行要招副总裁 比尔盖茨要为女儿择婿 知识是一种具有普遍性和概括性的高层次的信息 情报是军事上专用的一类特定的信息 信息就是信息，它既不是物质也不是能量（1948年，维纳）。信息、物质和能量是构成一切系统的三大要素。 信息与消息的关系 信息是系统中传送（或存储、处理）的对象，它包含在消息之中。 同一信息可用不同消息形式（如语言、文字、图像）来传递。 如：钓鱼岛事件 消息是信息的载体，是比较具体的形式，如语言、文字、数字、图像。所有这些形式都是可以被人们所感觉到的。 消息与信号的关系 信号 是消息的载体。是用来表示消息的物理量（声音信号、电信号、光信号） 可用不同类型的信号（如声、光、电）传递同一消息。 话音 声音信号?电信号?光信号 同一信号在不同的情况下表示不同的信息 红灯信号 在十字路口表示禁止通行的信息 在电子仪器板上，表示仪器是否正常工作的信息 信号携带消息，消息包含着信息。 信息的主要特征 信息是无形的 （看不见，摸不着）不具实体性，它必须依赖一定的消息形式才能为人所获知。 信息有大小，可以度量： 如：“中秋国庆期间免收过路费” 消息在收到之前未知（以一定的概率存在），收到之后可以获取信息，从而认识事物。 信息可以共享 （互联网就是一个共享各种信息的平台）。 信息可以压缩、传输、接收、消失。 信息有一定的时效性。 信息科学 信息科学是一门综合性学科，它研究信息及其运动规律。 研究的内容包括： 信息的本质及其度量，信息的产生、获取、传播、存储及处理。 研究的目的： 扩展人们获取信息的手段和速度，提高信息的利用能力 信息科学带来的信息产业 信息产业是专门从事信息的生产、传播、出售和服务的行业。包括： 信息技术设备制造： 手机生产、天线制造、交换机生产、光缆/光传输设备生产……. 信息服务： 手机增值业务开发、电子出版、数据库服务、网络接入服务、网络应用服务（企业信息化建设、电子商务）、网络推广……. 第1章 概论（简介） 主要内容： 1.1 信息的基本概念 1.2 通信系统模型 1.3 信息论的起源、发展、研究内容 1.4 研究内容 通信系统 通信系统：信息的传输系统。 如：电话、计算机网络 1.2 通信系统模型 信源、信道、信宿 信源：是发出消息的源头 信道：是消息传送媒介 信宿：是消息的目的地 通信系统模型进一步细分 通信系统模型组成 信源 信宿 信源编/译码 信源编码集中于解决传输的有效性问题；需要去除冗余信息——信源编码应尽量短。 例：语音压缩编码 Vocoder 图象压缩编码 JPEG(Joint Photoshop Expert Group) MPEG(Movie EPG) 文本压缩编码 Winzip 信道编/译码 信道编码集中于解决抗信道干扰和失真问题，即解决传输的可靠性问题。需要添加冗余信息——信道编码使码的位数增加，码长变长。 例：卷积码、级联码、Turbo码 调制/解调:将信号的频率或格式转化成适合信道传输的。 信息传输系统的性能要求 有效性：用尽可能短的时间和尽可能少的设备来传输一定数量的信息。 可靠性：使信源发出的消息经信道传输后，尽可能准确地、不失真地在接收端重现。 保密性：隐蔽或保护通信系统中传输的信息，使它只能被授权接收者获取，非授权接收者不能接收和理解。 认证性：接收者能够正确判断接收到的消息的正确性。验证消息的完整性，判定不是伪造或篡改的。 可靠性、有效性、保密性和完整性共同构成现代通信传输系统的全面要求。 第1章 概论（简介） 主要内容： 1.1 信息的基本概念 1.2 通信系统模型 1.3 信息论的起源、发展 1.4 研究内容 19