信息论与编码第一章.pptVIP

* 1972年阿莫托和布莱哈特分别发展了信道容量的迭代算法。 1972年阿莫托和布莱哈特分别发展了信道容量的迭代算法。 1972年阿莫托和布莱哈特分别发展了信道容量的迭代算法。 关于高斯信道是香农在1948年原论文中首先分析和研究的。。 1964年霍尔辛格发展了有色高斯噪声信道容量的研究。 1969年平斯克尔提出了具有反馈的非白噪声高斯信道容量问题。科弗尔于1989年对平斯克尔的结论给出了简洁的证明。 香农在1948年论文提出了无失真信源编码定理，也给出了简单的编码方法（香农编码）。 * 麦克米伦于1956年首先证明了惟一可译变长码的克拉夫特不等式。关于无失真信源的编码方法 1952年费诺提出了一种费诺码 同年，霍夫曼首先构造了一种霍夫曼编码方法，并证明了它是最佳码。 20世纪70年代后期开始，人们把兴趣放在与实际应用有关的信源编码问题上。 1968年前后，埃利斯发展了香农-费诺码，提出了算术编码的初步思路。而里斯桑内在1976年给出和发展了算术编码。 * 1982年他和兰登一起将算术编码系统化，并省去了乘法运算，更为简化、易于实现 关于通用信源编码算法——LZ码是于1977年由齐弗和兰佩尔提出的。 1978年他俩又提出了改进算法，而且齐弗也证明此方法可达到信源的熵值。 1990年贝尔等在LZ算法基础上又作了一系列变化和改进。LZ码已广泛应用于文本的数据压缩中。 * 语音信号压缩 长途电话网标准 1972年CCITT G.711标准中的 64kbit/s， 1995年 CCITT G. 723.1标准中的 6.3 kbit/s。 移动通信中 1989年GSM标准中语音编码速率为13.2 kbit/s 1994年在为半码速GSM研究的VSELP编码算法中，码速率为5.6 kbit/s 军用通信 美国NSA标准的速率在1975年已达2.4 kbit/s 目前在实验室中已实现600bit/s的低速率语音编码,特别是按音素识别与合成原理构造的声码器其速率可低于100bit/s,已接近信息论指出的极限。 1.4 信息论的主要研究成果 * 图像信号压缩 图像信号的信息量特别巨大，这对图像信号的传输及存储都带来极大的不便 。 1989年 CCITT提出电视电话/会议电视的压缩标准H.261,其压缩比达到25:1到48:1左右 1991年CCITT与ISO联合提出的“多灰度静止图像压缩编码”标准JPEG,其压缩比为24:1 在运动图像方面,运动图像专家组继成功定义了MPEG-1和MPEG-2之后,于1993年7月开始制订全新的MPEG-4标准。随着MPEG-4标准的不断扩展,它不但能支持码率低于64kbit/s的多媒体通信,也能支持广播级的视频。 * 降低信息传输所需的功率 在远距离无线通信,特别是深空通信中如何降低信息传输所需的功率至关重要。因为在这种情况下发送设备的功率和天线的尺寸都已成为设备生产和使用中的一个困难问题。 正是在这个领域信息论获得了它第一批令人信服的成果。60年代后期起，NASA发射的所有深空探测器无一例外地在其通信设备中采取了信道编码措施。 * 计算机网中数据传输可靠性的保证 在用各种电缆连接而成的计算机网中电噪声和各种外界的电磁干扰是必须考虑的，因为它使传输的信息发生差错。 一般情况下，局域网中的差错率在10-8左右,广域网中的差错率在10-3～10-5。这样高的差错率在实际应用中是无法接受的，目前普遍采用的解决办法是带自动重发请求的差错检测码。 差错检测的方法从最简单的奇偶检验到比较复杂的循环冗余检验都被采用，但规模较大的网一般都用循环冗余检验。 * * * 学信息论的意义 要珍惜这个良好的学习机会，认真学习，逐渐培养科研能力，树立完善的人格基础，为将来的进一步学习和科研奠定坚实的基础。 * 信息论基础是通信和信息领域的专业基础课程，只有学好这门课，才能学好后继课程、将来进一步从事通信和信息领域的科研和创新。 课程概况 信息论与编码是一门应用概率论、数理统计和近代数学的方法来研究信息的度量、编码和通信的科学；它的主要目的是提高信息系统的有效性和可靠性，最优化；其主要内容包括：信息的度量，信源与信道的模型与特点，信道容量、无失真信源编码，有噪信道编码、限失真信源编码及纠错编码。 * 结合通信系统实际应用 * 课程特点 信息理论为中心，区别 “信源编码”与“信道编码” 概念和物理意义为主，数学推导尽量放到课外 学习目标 掌握一定的科学思想方法(用信息论的思想和观点)和怎样描述 * 充分理解、熟练掌握教材的内容 熟练掌握基本的信息理论概念和定理。 熟练掌握通信与信息工程中基本研究对象的数学描述。 通过学习和习题练习，具备一定的解决问题分