信息论研究的对象.PPTVIP

 1.2 信息论研究的对象、目的和内容 总的来说，信息论是一门应用概率论、随机过程、数理统计和近代代数的方法，来研究广义的信息传输、提取和处理系统中的一般规律的学科。 它的主要目的是提高信息系统的可靠性、有效性、保密性和认证性，以使达到系统最优化； 它的主要内容（或分支）包括香农理论、编码理论、维纳理论、检测和估计理论、信号设计和处理理论、调制理论、随机噪声理论和密码学理论等。 本课程主要研究香农信息理论。 * 信息论 电子信息工程学院 * 电子信息工程学院 * 各种通信系统的本质都是信息传输系统。将他们具有共同特性的部分抽取出来，概括成一个统一的理论模型，通常称为通信系统模型。 通信系统模型正是信息论的研究对象。通过对系统中消息的传输和处理来研究信息传输和处理过程的共同规律，以提高信息传输的可靠性、有效性、保密性和认证性。 1.2 信息论研究的对象、目的和内容 信源编码器 信道编码器 信宿 信源译码器 信道译码器 编码信道 信源 调 制 器 解 调 器 信道 干 扰 源 通信系统理论模型 1.2 信息论研究的对象、目的和内容 信源：产生消息或消息序列的来源。 编码器：把消息变换成信号的措施。 信源编码器：将信源的输出进行适当的变换，以提高信息传输的有效性。 信道编码器：对信源编码器的输出进行变换，用增加冗余度的方法提高信道的抗干扰能力，以提高信息传输的可靠性。 调制器：将信道编码器输出的数字序列变换为振幅、频率或相位受到调制控制的形式，以适合在信道中进行较长距离的传输。 1.2 信息论研究的对象、目的和内容 信道：信号由发送端传输到接收端的媒介。典型的传输信道有明线、电缆、高频无线信道、微波通道和光纤通道等；典型的存储媒介有磁芯、磁鼓、磁盘、磁带等。 干扰源：对传输信道或存储媒介构成干扰的来源的总称。干扰或噪声往往具有随机性，所以信道的特征也可以用概率空间来描述；而噪声源的统计特性又是划分信道的依据。 加性干扰：它是由外界原因产生的随机干扰，它与信道中传送的信号的统计特性无关，因而信道的输出是输入和干扰的叠加； 乘性干扰：信道的输出信号可看成输入信号和一个时变参量相乘的结果。 1.2 信息论研究的对象、目的和内容 解调器：从载波中提取信号，是调制的逆过程。 信道译码器：利用信道编码时所提供的冗余度，检查或纠正数字序列中的错误。 信源译码器：把经过信道译码器核对过的信息序列转换成适合接收者接收的信息形式。转换过程与信源编码方式相关。 信宿：消息传送的终点（人或机器）。 在通信系统中传输的形式内容是消息，而信息才是我们需要利用系统传输的实质内容。消息只是用来表达信息的工具，是载荷信息的客体。通信的结果是消除或部分消除传递过程中的不确定性，从而获得准确的信息。 1.2 信息论研究的对象、目的和内容 研究目的：找到信息传输过程的共同规律，提高信息传输的可靠性、有效性、保密性和认证性，以达到信息传输系统的最优化。 可靠性 使信源发出的消息经过信道传输以后，尽可能准确地、不失真地再现于接收端。 有效性 用尽可能短的时间和尽可能少的设备来传送一定数量的信息。 保密性 隐蔽和保护通信系统中传送的消息，使它只能被授权接收者获取，而不能被未授权者接收和理解。 认证性 接收者能正确判断所接收的消息的正确性，验证消息的完整性，而不是伪造的和被窜改的。 1.2 信息论研究的对象、目的和内容 研究内容： 狭义信息论（经典信息论）：主要研究信息的测度、信道容量、信源编码和信道编码等问题。这部分内容是信息论的基础理论，又称为香农信息论。 核心是：在通信系统中，采用适当的编码后，能够实现高效率和高可靠地传输信息，并给出了信源编码定理和信道编码定理。 从数学观点看，这些定理是最优编码的存在定理。 但从工程的观点看，不能从定理的结果直接得到实现最优编码的具体途径。然而，它们给出了编码的性能极限。 在理论上阐明了通信系统中各种因素之间的相互关系，为人们寻找最佳通信系统提供了重要的理论依据。 1.2 信息论研究的对象、目的和内容 一般信息论（工程信息论）： 主要研究信息传输和处理问题，除了香农理论外，还包括编码理论、噪声理论、信号滤波和预测、统计检测和估计理论、调制理论、信息处理理论、保密理论等。 广义信息论：是现代信息科学理论，它是一门新兴的综合性学科，不仅包括上述两方面的内容，而且包括所有与信息有关的领域，如模式识别、计算机翻译、心理学、遗传学、生物学、神经生理学、语言学、语义学等，甚至包括了社会、人文、经济等学科中有关信息的问题。 1.2 信息论研究的对象、目的和内容