多元统计分析第八章 典型相关分析new.docVIP

第8章 典型相关分析 典型相关分析是用来描述两组随机变量（两个随机向量）间关系的统计分析方法。两组随机向量，各含有许多随机变量，能否用少量随机变量来描述其相关性？例如为了研究饲料与荤菜价格的关系，统计若干年玉米、大豆、稻子、麦子、鱼粉以及猪肉、牛肉、羊肉、鸡肉、鸡蛋、鸭肉、鸭蛋的价格，分析饲料与荤菜价格的关系时，发现单独一种饲料和单独一种肉蛋禽价格关系并不密切(由显著性检验可见)，但饲料的某种综合价格则与肉蛋禽综合价格的关系很密切。把饲料价格看成一组随机变量，肉蛋禽价格看成另一组随机变量，找这两组随机变量的线性组合，使之相关系数平方最大，从而分析两组随机变量间的关系，判定这两组随机变量是否有关联，这就是典型相关分析。 8.1 典型相关分析数学模型 设随机向量与的方差存在，协方差为。为常数向量。则 ， 为了计算确定性，限制。 定义8.1 设在条件： 下使大，则称为第一对典型相关变量，称为第一典型相关系数。 由定义可见，尽可能多地反映原来对随机变量相关的信息。第一对典型相关变量往往不能完全反映随机向量间的关系，必须建立其它典型相关变量,它应当最能反映随机向量间的关系，但是它应当与第一对典型相关变量不相关（不包含第一对典型相关变量的信息）。 定义8.1′ 若常数向量=，=在条件： ，； ， 下使最大，则称为第二对典型相关变量，称为第二典型相关系数。若常数向量=，=在条件：，； ，； ，， 下使最大，则称为第三对典型相关变量，称为第三典型相关系数。…… 求第一对典型相关变量是在条件： 下使最大，由Lagrange乘子法，应当求Lagrange函数的无条件极大。 对，求偏导数得： （8.1） 假设正定(否则用广义逆处理)，（8.1）第1式左乘得；（8.1）第2式左乘得；从而。 当时（8.1）式消去得，从而，分别是相对于的特征值，特征向量，或化为： 令，则，是的特征值，特征向量。 （8.1）式消去得，从而，分别是相对于的特征值，特征向量，或化为： ， 令，从而、c是的特征值和特征向量。可以证明： 定理8．1 设，c分别是的最大特征值及相应特征向量；，d分别是的最大特征值及相应特征向量；，满足条件 ，则为第一对典型相关变量，为第一典型相关系数的平方。更一般的，设，分别是的第大特征值及相应特征向量；，分别是的第大特征值及相应特征向量；，，满足条件 ，则为第对典型相关变量，为第典型相关系数的平方。 实际问题中协差阵总用样本协差阵估计，设是正态总体的一个样本。，，则 ， ， ， 分别是的极大似然估计样本协差阵。定理（8.1）中协差阵可用极大似然估计样本协差阵代替。这样做的依据是： 定理8．2 设，分别是的第大特征值及相应特征向量；，分别是的第大特征值及相应特征向量；满足条件： ，的样本方差都是1；则分别为的极大似然估计，为的极大似然估计。 定义8．2 ，称为第对样本典型相关变量，称为第个样本典型相关系数平方． 冗余分析也是典型相关分析的重要内容。 设每组变量都标准化了，从第1组变量提取的典型变量为，从第2组变量提取的典型变量为；原第1组变量为，原第2组变量为；与分量的相关系数所成向量为，与分量的相关系数所成向量为，则第个典型变量从第1组变量提取的方差比例为，则第个典型变量从第2组变量提取的方差比例为。 令，，它们称为冗余测度。 冗余测度的大小表示这对典型变量能够对另一组变差相互解释程度的大小，对进一步讨论多对建模提供有用的信息。 8.2典型相关过程 SAS中用CANCORR过程（典型相关过程）计算样本典型相关系数和样本典 型相关变量。该过程主要包括以下三个语句： （1）PROC CANCORR语句，一般形式是：PROC CANCORR 选择项1 选择项2 …。PROC CANCORR语句中选项可以是DATA＝…，用以表明输入数据集；OUT＝…或OUTSTAT＝…，用以表明输出数据集；还可以是ALL，用以表明输出全部计算内容。 （2）VAR语句，一般形式是VAR 变量l 变量2 …，用以指定第一组变量。 （3）WITH语句，一般形式是WITH 变量1 变量2 …，用以指定第二组变量。 例8.1 现有北京地区1951～1976年冬季的气象资料见表8．1，其中 year：年份 Dec：12月份平均气温 Jan：次年一月份平均气温 Feb：次年二月份平均气温 High7：7月500hpa图上13--14E，40--50N范围内6点高度距平和 High4：4月500hpa图上(110E，45N)(100W，40N)和(100W，50N)3点高度距平和 high8：8月500hpa图上150E，35--45N；100E，