正态等相关因子的信息贡献公式.docVIP

正态等相关因子的信息贡献公式 张 学 文 （新疆气象台） 设有 m,n 维的两个随机矢量X,Y . 当其联合概率分布密度为m+n 维的正态分布时， 随机矢量 Y 关于随机矢量X 的信息量IY X 为[1] 1 这里 、 和 分别为Y的各分量、X的各分量和X与Y各分量的联合的相关矩阵的行列式． 现在研究上式的一个特殊情况，即X仅是一个标量并且X与矢量Y的各分量以及Y的各分量之间的单相关系数都等于同一个常数r的情况．我们称之为正态等相关情况．现在就是要研究在这种条件下信息 IY X 与r的大小和Y的维数n有什么具体关系． 我们知道当对变量经受互为单值的函数变换后并不改变这个变量与其他变量间的相互信息关系．现在我们把X和Y的各分量都分别以各自的标准差去除，显然经过这种变换后得到的各新变量之间 1 式仍成立．这时，各相关矩阵就变成了标准化的相关矩阵．依前面假设我们有 2 （3） 阶 （4） 为具体计算信息 IY X ，我们现先分别计算 和. 依行列式性质把 4 式各行 除第一行 减去第一行得 再将第2，3，……，n+1列与第一列作加法并记于第一列得 这样主对角线以下的元素全部为零，故有 5 同样地对应有 6 将 3 、 5 和 6 式代人 1 式得 这样就初步得出了所求的关系．但上式中对r和n有没有什么约束条件呢?对此我们从正态分布时其相关矩阵应当是正定的这个角度可以得出来．即只当三个相关矩阵的行列式都大于零时，才有可能存在相应的正态分布的概率场。这表明正态分布本身就要求 5 、 6 式都大于零．由于r是相关系数它介于±1之间．所以在 1 r 0 时显然 5 、 6 式都大于零．在 r 0 时我们不难推出 关系．故综合得如下约束不等式 7 故信息公式应写为 , 8 这是我们得到的完整结果。这里n是矢量Y的维数。当Y为一维时n 1，（8）式变成了 9 这就是早为人所共知的正态单因子的信息公式．可见它仅是我们的（8）式的一个特例. 又，当n→∞时不难得 10 这里以 表示一个有无限多维的一个随机矢量Y提供的关于X的信息． 10 式告诉我们这无限多的正态等相关的因子 信息源 提供的信息仅是个有限值． 8 式表明信息是r和n的函数． 图1中给出了r o时这个函数的图形．图中表示了I随r加大而加大，随n加大I也加大．不过n 的加大使I加大的不算很多． 在研究众多的气象因子能够对某未来天气提供多少信息时，一个容易想到的数学模型就 是设这些变量遵守正态分布，并且有着相同的相关系数。为计算这种信息，我们导得了如上的信息公式． 从这个公式中定量地使我们看到有上10个左右的预告相关因子与用更多的因子 n更大 提供的信息并无显著差别．这也就告诉我们不必盲目追求因子个数愈多愈好．同时它对一些气象台站用数量不多的因子作好预告是一种理论支持． 致谢：本文承南开大学数学系沈世镒老师给予帮助，谨此致谢． 参 考 文 献 [1] Reza,F.M., An Introduction to Information Theory, McGraw-Hill Book Co., 1961,296. 本文1979年8月17日收到. 1980年刊于科学通报第8期360-362页，2008-7-29公布与网上 1