第一章 绪论_纯中文)_2013-2014-10解读.pptVIP

Alternative proof Alternative proof-Sphere packing Alternative proof-Sphere packing Summary: Reliable Rate of Communication and Capacity Summary: Reliable Rate of Communication and Capacity * 白高斯噪声信道容量 X AWGN Y Y=h*X+N N是加性高斯白噪声， h是恒定的 通道增益 SNR=h2E(X2)/E(N2) 克劳德·香农(Claude Elwood Shannon，1916-2001)1916年4月30日诞生于美国密西根州的Petoskey。在Gaylord小镇长大，当时镇里只有三千居民。父亲是该镇的法官，他们父子的姓名完全相同，都是Claude Elwood Shannon。母亲是镇里的中学校长，姓名是Mabel Wolf Shannon。他生长在一个有良好教育的环境，不过父母给他的科学影响好像还不如祖父的影响大。香农的祖父是一位农场主兼发明家，发明过洗衣机和许多农业机械，这对香农的影响比较直接。此外，香农的家庭与大发明家爱迪生(Thomas Alva Edison，1847-1931)还有远亲关系。 2001年2月24日，香农在马萨诸塞州Medfod辞世，享年85岁。贝尔实 验室和MIT发表的讣告都尊崇香农为信息论及数字通信时代的奠基人 1948年香农在Bell System Technical Journal（贝尔系统技术杂志）上发表了《A Mathematical Theory of Communication 》。 克劳德·香农在公众中并不特别知名，但他是使我们的世界能进行即时通信的少数科学家和思想家之一。他是美国科学院院士、美国工程院院士、英国皇家学会会员、美国哲学学会会员。他获得过许多荣誉和奖励。例如1949年Morris奖、1955年Ballantine奖、1962年Kelly奖、1966年的国家科学奖章、IEEE的荣誉奖章、1978年Jaquard奖、1983年Fritz奖、1985年基础科学京都奖。他接受的荣誉学位不胜枚举，不再赘述。 　　今天，我们怀念香农，要熟悉他的两大贡献：一是信息理论、信息熵的概念；另一是符号逻辑和开关理论。 * 香农信道容量公式（1948） 两部分: 当传输速率RC,可以通过合适的信道编码实现可靠的信息传输 当传输速率 RC, 任何方式的编码都无法实现可靠的信息传输 * 频谱效率 * 最大频谱效率 最大频谱效率: * 香农限 香农界(为可靠的传输需要的最小能量): 香农极限(带宽无限的情况下) * 香农界与香农限图解 Further insight… Two basic resources of the AWGN channel are the received power P and the band-width W. To this end, a key observation is that the function is concave. High and Low SNR regions Increasing the power suffers from a law of diminishing marginal returns: when the SNR is low, the capacity increases linearly with the received power P: every 3 dB increase in (or, doubling) the power doubles the capacity When the SNR is high, the capacity increases logarithmically with P: every 3 dB increase in the power only yields only one additional bit per dimension Bandwidth Limited Power Limited When the bandwidth is small, the SNR per degree of freedom is high, and then the capacity is insensitive to small changes in SNR. Increasing W yields a rapid increase in capacity because the increase i