第二章-信息论基本概念.pptxVIP

一般情况下，信源输出符号之间的相关性可以追溯到最初的一个符号，而在许多信源的输出符号序列中，符号之间的依赖关系是有限的——任何时刻信源符号发生的概率只与前面已经发出的若干个符号有关，而与更前面发出的符号无关。这类信源在输出符号时不仅与符号集有关，还与信源的状态有关。;马尔可夫信源－离散信源中的一类特殊信源。 是由信源发出的各个符号之间的关连性构成一个整体消息。这种关连性用符号的转移概率（条件概率）表示： 如：BOY P(B) P(O|B) P(Y|BO) 若马尔可夫信源发出每个符号都取决于它与前面的K个符号之间的关连性，也就是该信源是以转移概率P(Xi|Xi-k, Xi-k+1, …, Xi-1)发出每个符号，这种信源称作K阶马尔可夫信源。;马尔可夫过程： 对于任意的大于2的自然数n，在连续的时间T轴上有n个不同时刻，t1，t2，…，tn满足，在tn时刻的随机变量Xn与其前面（n－1）个时刻的随机变量X1，X2，…，Xn－1的关系可用它们之间的条件概率密度函数来表示，如果满足下式： p(Xn ，tn| Xn－ 1 ， tn－1 ，Xn－2， tn－2，…，X1，t1) ＝p(Xn ，tn| Xn － 1，tn － 1) 则这种随机过程称为单纯