信息论与编码_曹雪虹_第1章.pptVIP

信源编码输出直接传送，不能保证传输可靠性。利用信道编码对信源编码器的输出符号增加一些冗余符号，并让这些符号满足一定的数学规律，使传输具有纠错或检错能力。因为出现传输错误就会破坏这种数学规律。在接收端就会发现错误。 * 例如，最简单的奇偶纠错，将信源编码输出的每个码组的尾补一个1或0，使得整个码组“1”的个数为奇或偶（或模二加为1或0）。当传输发生奇数差错，打乱了“1”数目的奇偶性，从而可以检测出错误。实际这是最简单的检错方式，而实际的信道编码技术要复杂得多。 * 调制器 功能： 将编码器的输出符号变 成适合信道传输的信号 目的： 提高传输效率 详细说明： 信道编码符号不能直接通 过信道输出，要将编码器 的输出符号变成适合信道 传输的信号 * 　译码器(decoder) 译码器实现的功能即从信号中恢复消息。 ?包括: ? 解调器 ? 信道译码器 ? 信源译码器 信道译码器 解调器 信源译码器 符号 符号 消息 信号 图 译码器的组成 * 解调器功能是，将信道输出信号恢复成符号；信道译码器的功能是，去掉解调器输出符号中的冗余符号；信源译码器的功能是，将信道译码器输出符号变成消息。总之，功能与发信机中的对应部分功能相反，目的相同。在模拟通信系统中仅包含解调器。 * 模型反映了信息传递过程 信道 信源 译码器 编码器 信宿 信号 U 信号加噪声U’ 消息X’ 消息X 注意：由于有干扰，x与 x’不完全相同，这时就有通信误差； 克服误差有： a. 硬件改进：改造通信系统的物理条件； b. 软件改进：编码方式的改进。 * 如何隐蔽消息中的信息内容,使它在传输过程中不被窃听.提高通信系统的安全性； 将明文变换成密文,通常不需要增大信道容量,例如在二进码信息流上叠加一密钥流； 但也有些密码要求占用较大的信道容量。 * * 问题：能否将三种码(信源编码、信道编码和密码) 合成一种码进行编译？ 提高有效性必须去掉信源符号中的冗余部分,此时信道误码会使接收端不能恢复原来的信息,也就是必须相应提高传送的可靠性,不然会使通信质量下降； 反之,为了可靠而采用信道编码,往往需扩大码率,也就降低了有效性。安全性也有类似情况 编成密码,有时需扩展码位,这样就降低有效性；有时也会因失真而使授权用户无法获得信息,必须重发而降低有效性,或丢失信息而降低可靠性。 * * 从理论方面来说，若能把三种码合并成一种码来编译，即同时考虑有效、可靠和安全，可使编译码器更理想化，在经济上可能也更优越。 这种三码合一的设想是当前众所关心的课题，但因理论上和技术上的复杂性，要取得有用的结果，还是相当困难。 * * 1、通信的统计理论研究 主要研究利用统计数学工具分析信息和信息传输的统计规律。 其具体内容有： 信息的测度； 信息速率与熵； 信道传输能力—信道容量。 * * 2、信源的统计特性 主要包括 文字(如汉字)、字母(如英文)的统计特性； 语音的参数分析和统计特件； 图片及活动图像(电视)的统计特性； 其他信源的统计特性。 * * 3、编码理论与技术的研究 有效性编码： 提高信息传输的有效率，主要针对信源的统计特性进行编码，也称信源编码。 抗干扰编码： 提高信息传输的可靠性，主要针对信道统的计特性进行编码；也称信道编码。 * * 4、提高信息传输效率的研究 功率的节约； 频带的压缩； 传输时间的缩短，即快速传输问题。 5、抗干扰理论与技术的研究 各种调制制式的抗干扰性； 理想接收机的实现 6、噪声中信号检测理论与技术的研究 信号检测的最佳准则； 信号最佳检测的实现。 * * * * “通信的基本问题就是在一点重新准确地或近似地再现另一点所选择的消息”。这是数学家香农(Claude E.Shanon)在他的惊世之著《通信的数学理论》中的一句铭言。 香农应用数理统计的方法来研究通信系统，从而创立了影响深远的信息论。 香农因此成为信息论的奠基人 * * 香农，1816年生于美国密执安州的加洛德。在大学中他就表现出了对数理问题的高度敏感。他的硕士论文就是关于布尔代数在逻辑开关理论中的应用。后来,他就职于贝尔电话研究所,在这个世界上最大的通信公司(美国电话电报公司)的研究基地里,他受着前辈的工作的启示,其中最具代表性的是《贝尔系统技术杂志》上所披露的奈奎斯特的《影响电报速率的一些因素》和哈特莱的《信息的传输》。正是他们最早研究了通信系统的信息传输能力,第一次提出了信息量的概念,并试图用教学公式予以描述。香农则创造性地继承了他们的事业,在信息论的