单符号离散信源ppt演示文稿.pptVIP

第2章 信源熵 并不是我们注意到的每一件事都重要，也不是每一件重要的事我们都注意到了。 爱因斯坦（1879-1955） ;信源的统计特性;信源的分类讨论;连续信源;第2章 信 源 熵;2.1 单符号离散信源 ;单符号离散信源的数学模型 —离散型的概率空间;单符号离散信源数学模型举例;信息量;自信息量;自信息量;自信息量;自信息量;自信息量;信息量;;信息量;;;信息量;互信息量;互信息量;;互信息量;;互信息量;;;;;;;;;熵;信源熵;信源熵;;;最大离散熵定理：p17,设信源中有n个符号，则 H(X)=log2n，当且仅当等概时取等号。 证明： 要证H(X)=log2n 即证H(X)-log2n=0;;熵;;H(X/Y)max=H(X);熵;;;;;;;;;;;;;;;;;Thank You !