第六章网络信息论.pptVIP

第六章 网络信息论 6.1 通信网信道分类 6.2 多址接入信道 6.3广播信道 6.4 相关信源的多用户信道问题 6.1 通信网信道分类 通信网信道是多用户信道：可容许多个输入和多个输出。 多址接入信道：多输入单输出 广播信道：单输入多输出 其它：中继信道、串扰信道、双向信道、多用户通信网、具有反馈的信道等。 6.2 多址接入信道 两个输入的多址接入信道如图： 由U1→ 的容许信息率为R1 由U2→ 的容许信息率为R2 若X2确知，则：R1≤max I(X1;Y/X2) 当X1和X2相互独立时，C1，C2和C12之间必存在 不等式：C12≤C1＋C2 显然，单独传二路的容量大于同时传的容量。 当各信源相互独立时，可推广 得到多址接入信道情况： 分别规定各信源信息率限制： Rr≤Cr＝max I(Xr；Y/X1X2‥XN) 联合限制： 6.3 广播信道 广播信道是单输 入多输出的信道： 由U1→ 的信息率为R1 由U2→ 的信息率为R2 U1已知时，X中的信息就是U2的信息； U2已知时，X中的信息就是U1的信息； U1和U2的联合信息就是X中的信息。 R1≤I(U1;Y1)＝I(X;Y1/U2) R2≤I(U2;Y2)＝I(X;Y2/U1) R1＋R2≤I(U1U2;Y1Y2)＝I(X;Y1Y2) 边信息：若存在一个与X1有关联的随机变量X2，同时送到编码器和译码器，则可对信道要求降低，这种X2所能提供的关于X1的信息称为边信息。 在无X2时，要无差错地传送X1就必须有CH(X1)；利用X2提供的边信息，只要CH(X1/X2)即可。 研究表明，编码器并不要求X2的具体值，只要知道X2的概率分布和它与X1的关联性，就能按H(X1/X2)来编码，所以对信道的要求是只要能传送H(X1/X2)就可以了。 * 第六章 网络信息论 P(x1)p(x2) C1＝max I(X1;Y/X2) ＝max[H(Y/X2)－H(Y/X1X2)] 即 R1≤C1 同理：C2＝max I(X2;Y/X1) ＝max[H(Y/X1)－H(Y/X1X2)] 即 R2≤C1 C12＝max I(X1X2;Y)＝max[H(Y)-Y/X1X2] 显然：(R1+R2)≤C12 P(x1)p(x2) P(x1)p(x2) P(x1)p(x2) P(x1)p(x2) P(x1)p(x2) P(x1) ‥p(x2) 6.4 相关信源的多用户信道问题 需研究的问题：选用信道时能否利用信源的相关性来压缩信道容量。 两个相关信源的多用户信道的模型如图： 这里：当信源的熵H(X1),H(X2)和H(X1,X2)已知时，求最小必须具备的C1和C2。 由于信源的相关性，必有： H(X1)+H(X2) ≥H(X1X2) 及：H(X1) ≥H(X1/X2),H(X2) ≥H(X2/X1) 因此，完全无差错地传输信息的充分必要条件： C1＞H(X1/X2), C2＞H(X2/X1) C1+C2 ＞H(X1X2) * 编码器1未知X2情况，却在C1小于H(X1)时还能编出码，并无差错地把X1传送出去，这是由于存在边信息。 * 第六章 网络信息论