信息论与编码(第1章).ppt

信息论基础的重要性 信息论是信息科学和技术的基本理论，信息科学大厦的地基； 没有信息论的基础，从事通信与信息领域的研究和创新是不可能的事情； 总之，信息论是高层次信息技术人才必不可少的基础知识。 本质——信息的传输系统 把接收方不知道的信息及时、可靠、完整、安全、经济地传送给指定的接收方 1、通信系统 一、信息论研究的对象 信源 信源 编码 u 加密 密钥 信道 编码 信道 干扰源 窃听者 信道 解码 解密 译码 解密 密钥 信宿 信源 解码 加密 编码 x y z Z’ y’ x’ v k k 图1-1 通信系统的物理模型 2、通信系统的物理模型 加密密钥 窃听 信源 信源编码 加密编码 信道 信道编码 信道译码 解密译码 信源译码 信宿 解密密钥 干扰 主要实体：信源和信宿 信道及干扰源 编码器 译码部分——编码部分的逆过程 包括：信源、编码器、信道、译码器、信宿五部分 加密密钥 窃听 信源 信源编码 加密编码 信道 信道编码 信道译码 解密译码 信源译码 信宿 解密密钥 干扰 包括：信源、信道、信宿三部分 信源 信道 信宿 等效无干扰信道 等效信宿 等效信源 3、模型中各个部分的作用及 需要研究的核心问题 （1）信源 信源是向通信系统提供消息u的人和机器 信源输出的是以符号形式出现的具体消息，它载荷信息。 信源输出的消息可归纳为两类 离散消息，例如由字母、文字、数字等符号组成的符号序列或者单个符号； 连续消息，例如话音、图像、在时间上连续变化的电参数等。 信源的核心问题 它包含的信息到底有多少，怎样将信息定量地表示出来，即如何确定信息量。 （2）信宿 信宿是接收消息v的人和机器 信宿的核心问题 信宿需要研究的问题是能收到或提取多少信息 （3）信道 信号从发端传到收端的介质,信道是传递消息的通道，又是传送物理信号的设施 信道的中心问题主要是它能够传送多少信息的问题，即信道容量的大小(即研究信道的统计特性和传信能力) 狭义信道——信号的传输媒质(介) [例] 明线、电缆、波导、光纤、无线电波空间等. 广义 信道—除狭义信道外，还包括通信系统某些部分 （4）干扰源 是整个通信系统中各个干扰的集中反映，用以表示消息在信道中传输时遭受干扰的情况。包括衰落，多径，码间干扰，非线性失真，加性噪声，主要是统计特性 对于任何通信系统而言，干扰的性质、大小是影响系统性能的重要因素。 （5）密钥源 是产生密钥k的源 信源编码器输出信号x经过密钥k的加密运算后，就把明文x变换为密文y （6）编码器 信源编码器：对信源输出进行变换，求得有效性 如“奥林匹克运动会”-- “奥运会” 信道编码器：对信源编码输出变换，提高抗干扰性(例) 调制器：将信道编码输出变成适合信道传输的信号 （7）译码器 编码器的逆变换 中心问题是研究各种可实现的解调和译码方法 [说明] ①不是所有的通信系统都采用这么全面的技术p6 ②对实际通信系统，还应包括换能、调制、发射等各种变换处理 ③上述模型只针对1对1单向通信系统。还有1对多单向系统（广播），1对1双向系统（电话），多对多双向系统（会议电视）等 研究通信系统的目的就是要找到信息传输过程的共同规律，以提高信息传输的可靠性、有效性、保密性和认证性，以达到信息传输系统最优化。 所谓可靠性高，就是要使信源发出的消息经过信道传输以后，尽可能准确地、不失真地再现在接收端。（首要目标） 所谓有效性高，即用尽可能短的时间和尽可能少的设备来传送尽可能多的信息量，或在每一个传送符号内携带尽可能多的信息量。(占用资源少，时间、空间、频率等) （重要目标） 以后会看到，提高可靠性和提高有效性常常会发生矛盾，这就需要统筹兼顾。 二、信息论研究的目的 所谓保密性就是隐蔽和保护通信系统中传送的消息，使它只能被授权接收者获取，而不能被未授权者接收和理解。 所谓认证性是指接收者能正确判断所接收的消息的正确性和完整性，而不是伪造的和被篡改的。 信息理论与编码 朱仁祥 zhurx@nbut.cn 电子与信息工程学院 考核方式 考查课(48学时)，全部为讲课学时 总评成绩=平时成绩占40 ％+测验成 绩占60％ 注意事项 1、实行请假制度 2、保持课堂纪律 3、欢迎提出反馈意见 本课程以概率论为基础，数学推导较多，学习时主要把注意力集中到概念的理解上，不过分追求数学细节的推导。学习时一定要从始至终注意基本概念的理解，不断加深概念的把握。学习时注意理解各个概念的“用处”，结合其他课程理解它的意义，而不要把它当作数学课来学习，提倡独立思考，注重思考在学习中的重要性。 学习方法