L13 Network Information Theory.pdf

信息论基础信息论基础信息论基础信息论基础 金金明录教授 1212--1313学年学年 第二学期第二学期 DUT 信息论基础 金明录教授 教学内容 Introduction and Preview EntropyEntropy, RelativeRelative EntropyEntropy, andand MutualMutual InformationInformation Asymptotic Equipartition Property EntropyEntropy RatesRates ofof aa StochasticStochastic ProcessProcess Data Compression Channel Capacity Differential Entropy Gaussian Channel Rate Distortion Theoryy Network Information Theory DUT 信息论基础 金明录教授 本章内容提要 引言 多用户信道 相关信源编码 多址信道 广播信道 DUT 信息论基础 金明录教授 3 引言 网络信息论的发展回顾网络信息论的发展回顾 无线网络信道 香农信道编码定理 香农公式香农公式 多用户信道模型 DUT 信息论基础 金明录教授 4 网络信息论的发展过程 1961年，Shannon发表了“双路通信信道”，为网络信息理 论奠定基础论奠定基础 ，AhlswedeAhlswede ，，VanVan derMeulenderMeulen引入多元接入模型引入多元接入模型，，特别特别 是Ahlsede和Liao给出了多元接入信道的容量区域 1972，Cover提出广播信道容量问题 Slepain-Wolf 引入相关信源编码 20世纪末网络信息理论蓬勃发展，得出许多重要的结论 DUT 信息论基础 金明录教授 5 无线网络信道 无线网络 Ad hoc networks Mesh networks Sensor networks • • ••