该信道的信道容量.pptVIP

预备知识（四） 信息论初步 通信原理第五讲 2.4 信息论初步 2.4 信息论初步 信息的度量 离散信源的信息量 连续信源的信息度量 信道容量和仙农公式 关于信息论 信息论是研究信息的基本性质及度量方法，研究信息的取得、传输、存贮、处理和变换的一般规律的科学。信息论是由通信的发展中产生的，它已渗透到了化学、物理学、生物学和心理学等许多领域，随着计算机技术的发展，信息的处理和利用也有了飞速的发展，人类对信息重要性的认识，也在逐步深化。 关于信息论 1924年，奈魁斯特等人研究了通信系统传输信息的能力，并试图度量系统的信息量，开始了现代信息论的研究。1947年，美国数学家诺伯特·维纳研究自行火炮，发表了题为《控制论》的专著，提出了控制论。1948年，美国数学家克芬特·仙农研究密码通信，发表了他的著名论文《通信的数学理论》，奠定了信息论的基础，第一次把信息通信领域的概念确切化了，而且从概率论的观点，提出了信息量的概念。他所建立的信息论包括三大内容，指的是信源理论、信道理论和信息失真函数理论。这些理论立足的基础是概率论。 狭义信息论-通信中的数学理论 通信与信息 通信系统所传递的是信号 信号是消息的载体 信息是消息的内涵 对接收者来说，只有消息中不确定的内容才构成信息 （通信能传输信号，但不一定能传输信息） 信源的输出是随机的，只能用