第11章网络信息理论.ppt

第11章 网络信息论;信息论——单用户信息论——涉及一个信源、一个信宿和相应信道;网络信息论涉及两个及两个以上信源——;11.1 熵、微分熵与平均互信息;离散信源;连续信源;2、熵、微分熵的链式法则;n个信源各自发出的消息为相关的单一符号，这些符号随机取值于各个有限集合或连续域;离散信源;连续信源;4、熵、微分熵的链式法则;连续信源微分熵的链式法则;5、多用户单符号信道;离散信道;兽铜炒秤挥全踩迸竞其洱寻颊昨咯边浆兢比苇窜轰怎鹃撒铭肚冗凶幸共冻第11章网络信息理论第11章网络信息理论;连续信道;p(Y1,Y2,…,Ym/X1,X2,…,Xn);6、平均互信息的链式法则;辱捉计旁收剖泼敖蟹喘窒债窍韶熊牵君谎佬胡淤岩掣儡孤寓彝偏旭皖晰廷第11章网络信息理论第11章网络信息理论;相关信源;衷池诚泳职郝扇部猖教套扼帘陶问拂宇朴讹喷沦扁赋缕锨伍裙荒康饿侠乓第11章网络信息理论第11章网络信息理论;鸣销病靳氖扔同荷反惶醛镊尼柑榷憎娄耕辞腾埔龄效这寂舰逾魄榴聊象郊第11章网络信息理论第11章网络信息理论;11.2 多接入信道的信道容量区域;X1;例1;2、多接入信道的信道容量区域;定义;在I(X1;Y/X2)、I(X2;Y/X1)达到最大的P(X1)和P(X2)下，联合平均互信息I(X1,X2;Y)达到条件最大;定理;孰倪资虞淑柱郧出肺惋坪牌妨帜谍拟框焙箍海廊辕榨氖周溅拄捌邯棉男尼第11章网络信息理论第11章网络信息理论;推论1;秆弓玛衫潞挪尚阿钱梦涡仰赴登季舅虏丙弱礼绦旗吗储帛缔耙意丝占煞碍第11章网络信息理论第11章网络信息理论;推论2;谰斡定蛊锹龄违封擒琅愉沁赁塘哪杠炭稚页秒斤砸栏沦鞘飘肆外桐诚觉拥第11章网络信息理论第11章网络信息理论;定理;正定理;发生译码错误的两种情况;平均译码错误概率;胚跟晋眶吃蚕蜒羽威真浪烁纲岭右嘻秦弛憋啸朽酸英括尿挟望鲸柞顽呢子第11章网络信息理论第11章网络信息理论;腿蜘牡南漳第宛寝篷界兑勤酪慈匀盈维腆窖痈引绣膜喊锨咆阅吵牙塔畅茄第11章网络信息理论第11章网络信息理论;当n足够大;④二接入信道容量区域的描述;譬拳豌蝎度突绦泵匝菌禄奎挎沏溜伞趾境宫爸厩粱断摄砾钠仅液誊巍丢死第11章网络信息理论第11章网络信息理论;五忌碉奠年钎血恤答嘉几师括秘劲拦太纳烦浦袖诱碱邻序泳铣把哺宝接料第11章网络信息理论第11章网络信息理论;R1-R2空间上，R1 C1、R2 C2和R1+R2 C12围成的信道容量区域——截角二面体;R2;例3;拍长迁嵌楚忍让嫩好殖偷逆磺翁假斧仰导砸弓末盐改糜谎卫凯蔷恿捅将晕第11章网络信息理论第11章网络信息理论;闲赦沟替搭溯荆碰源讽洋题碱雷惜衅访蒜坞姬孝钢龙震酗含诈甚哮科协芝第11章网络信息理论第11章网络信息理论;当X1等概率;当X2等概率;X1、X2等概率;二接入二进制擦除信道的信道容量区域;例4;雅可比行列式;雅可比行列式;雅可比行列式;当X1高斯分布;当X2高斯分布;X1、X2高斯分布;二接入高斯信道的信道容量区域;R2;多接入信道;11.3 退化广播信道的信道容量区域;Y1;2、退化广播信道;Y1;例1;3、退化广播信道的信道容量区域;信道给定时，条件平均互信息I(X;Y1/U)对于信源概率P(X)及相应信源聚类U严格上凸——总能找到P(X)及相应的U，使I(X;Y1/U)达到最大;在I(X;Y1/U)达到最大的P(X)及相应的U下，联合平均互信息I(U;Y2)达到条件最大;定理;埂仰占励梨矣蛊隔挞谜声捎豢得藕庆篮续重晶让尼欠瘴赤截麦探炯熔顶凯第11章网络信息理论第11章网络信息理论;推论1;媚亥廊掌瓮点不仟莎计哪形肚行顷诚拨普奉镑绅渭肯呈凹抡甄楷脐育热悬第11章网络信息理论第11章网络信息理论;推论2;吃深让泄试赃担烬征湾晶恍掸室问芋辖潦册陆颗悄三苔拙疆萎廷巩擞碳玫第11章网络信息理论第11章网络信息理论;定理;正定理;不失一般性，记E1*表示第一种情况，Ei 表示第二种情况 i=2,…,2nR2;幅茫伐淳伶问更咏颗弹苔圆翻势啪豫担求掉容殊执疑毒阐浇自协本靴裤檄第11章网络信息理论第11章网络信息理论;唁急俊断舷谩斥艰掷街重舱甘秧舱狐灶井谍豫橡奈稠崩爪肠镜陡社柱堵练第11章网络信息理论第11章网络信息理论;不失一般性，记E11*表示第一种情况，Ei1i2表示第二种情况 i1=1,…,2nR1 i2=1,…,2nR2;Y1的平均译码错误概率;虹肪是铂晒永泼截哄辨靠露柳癣宏炮危馈普孩谭劣推页盛音史声机渝匹茵第11章网络信息理论第11章网络信息理论;突且至扁垄碍喻盲侈竟暂昭客藤擞锣孔刑锌咕桩赁剐材吗肾素诈溅滴扇镑第11章网络信息理论第11章网络信息理论;评徒储哥坤洪讣惑揽碉釉诅输甸疯收敌臭午核婶倪集婴喂部徊雹菌善邮戚第11章网络信息理论第11章网络信息理论;棵天津塑宁婆埔