效应及最小二乘估计.ppt

效应的最小二乘估计 ——最小二乘方差分析 简要介绍 一、最小二乘分析法的原理和方法 这里主要讨论次级样本容量不等的最小二乘分析法的基本内容 与其他方法相比，最小二乘分析法至少有以下几个优点： 1、最小二乘分析法适用于线性和非线性数学模型 2、最小二乘分析法与最重要的一个统计量——算术平均数发生关系 3、适应范围广 最小二乘分析法特别适合于以下几种情况： 1、试验条件复杂，成本太高、来源一致的大样本资料不容易获得 2、来自各试验单位的资料不平衡、需要进行校正 3、次要因素不容易控制 4、资料需要校正合并 5、资料次级样本容量不等，而使得平方和的可加性遭到破坏 目前，绝大多数统计软件中的方差分析均为最小二乘方差分析法 设有一批观测值 以下均以 代替以前的 根据最小二乘原理求出处理效应的估计值，即取这样一个y值,作为这批数据 的最佳值，它应当与各个 的平方和最小，即 对 求微分，并令之为0，则有 y即为算术平均数 继续求其二级微分，可知 为极小 即算术平均数 是一批观测值的最小二乘估计值 在线性方程组 中，如果 ，即方程组非齐次 ②X的秩=b的维数（即X为非奇异阵） ③增广矩阵|Xy|的秩=X的秩（即方程组相容） 则方程组有唯一解： 当X不是方阵（即方程组中方程的个数与未知数的个数不等）， 必为一非奇异阵，则方程组的解可由 其中， 即为b的最小二乘估计值 可以证明， 是唯一的、无偏的 任何数学模型均可用矩阵形式表示 如线性模型 的矩阵形式为 其中， y为n维观测值向量 X为固定效应的结构矩阵 b为固定效应向量 e为随机误差向量，且 在 中，绝大多数情况下，X不会是方阵，即方程个数与未知数个数不等，为使方程有解 方程可改写成 可以证明，该式必有解： 当 满秩时，必有 存在，且为唯一，即 其中， 是唯一的，且是b的最小二乘估计值，是b的最佳线性无偏估计值 当 不满秩时， 有无穷多个解 为使方程有唯一解，可加入约束条件，从而使 为满秩，得出唯一解 常用的约束条件有很多，如：和约束、相对约束（ ）等，但约束条件不同，解也不同 二、单向分类资料的最小二乘分析法 例：设计了三种草本植物添加剂作饲养试验，得数据如下： 添加剂种类 增重效果 Ⅰ 1.2 1.0 1.1 1.1 Ⅱ 1.4 1.3 Ⅲ 1.0 0.9 1.2 本例中， ， ， 设三种添加剂的效应值分别为 每一观测值完整的数学模型为： 当有k个组时，观测值的一般通式为： 本例每一观测值的数学模型： 第一组： … … 第二组： … … 第三组： … … 其结构矩阵X为： X= 该结构阵不是一个方阵，因此应求X’X X’X= = X’X的一般通式是： 而 X’y= X’y= 上式中： 因此，矩阵方阵为： 其通式是： 可以看出，X’X是不满秩的，因此它无唯一解 由于 是其约束条件，因此可以将该方程组减去一个 （习惯上总是减去最后一个 ） 首先作行相减，第一行是 方程，因此不减 从第二行逐行减去最后一个方程： 然后作列相减，即除第一列外的各列均减去最后一列： 这一过程称为矩阵的降阶，降阶后的矩阵称为降阶矩阵，降阶矩阵与原矩阵相比，少了一行一列，即由原来的（k+1）行（k+1）列降为k行k列 降阶后的矩阵仍为对称阵，且满秩，因此有唯一解： 即 （总体效应值）=1.1611，此即为最小二乘均值LSM（least square mean） （第一种中草药添加剂效应值）=-0.0611 （第二种中草药添加剂效应值）=0.1889 （第三种中草药添加剂效应值）= =-（-0.0611+0.1889）=-0.1278 三种中草药添加剂的最小二乘均值（LSM）则分别为： 数据比较简单时，手工计算和统计软件运算两者差别不大，但当数据结构比较复杂，或数据量很大时，则必须借助于统