第五章 统计方法.pptVIP

就业工场数据中心 第一页，共二十页，2022年，8月28日 式中分子是残差和，分母是残差的自由度。 分析步骤： 首先，计算模型所有输入的Ｓ2，然后一一删除这些输入，若删除一个有用的输入,Ｓ2 第二页，共二十页，2022年，8月28日 的估计值将会大幅度上升，若删除一个多余的输入，估计值不会有太大的变化。 在上述步骤的迭代过程中，引入Ｆ比率和Ｆ统计检验，形式如下： 若一个输入被删除后，Ｆ接近于１，新模型合适；若Ｆ值明显大于１，说明新模型不合适。应用迭代的方差分析方法，能识别哪一个输入和输出的相关的，哪些是不相关的。 第三页，共二十页，2022年，8月28日 下表是有３个输入的数据集的方差分析 情况 输入集 Si2 Ｆ １ x1,x2,x3 3.56 ２ x1,x2 3.98 F21=1.12 ３ x1,x3 6.22 F31=1.75 ４ x2,x3 8.34 F41=2.34 ５ X1 9.02 F52=2.27 ６ X2 9.89 F62=2.48 第四页，共二十页，2022年，8月28日 上述分析结果，只有删除x3，F没有明显变化，其他情况Ｆ比值显著增加，因此可以删除，不影响模型的性能。 方差的多元分析是方差分析的一个推广，解决了输出不是单个数值而是一个向量的数据分析问题。方差的多元分析基于这样一个假设，输出变量间相互独立，采用一个多元线性模型来建模： 第五页，共二十页，2022年，8月28日 残差矩阵Ｒ为： 古典的多元分析也包含基本的分析方法，如一组样本向量如何转换为一组新的维数更少的样本向量。数据归约和数据转换中用到。 第六页，共二十页，2022年，8月28日 5.6 对数回归 线性回归用于对连续值函数进行建模。广义回归模型提供了将线性回归用于分类响应变量建模的理论基础，它最常见的形式是对数回归。 对数回归将某些事件发生的概率建模为预测变量集的线性函数。它不是预测因变量的值，而是估计因变量取给定值的概率p。例如，对数回归不预测顾客的信用等级是好是坏，而是试着估计顾客有好的信用等级的概率。 第七页，共二十页，2022年，8月28日 对数回归仅适用于输出变量是二元分类变量的情况。但输入变量也可以是定量的，它支持一般的输入数据集。假设输出Y有两个分类值编码为0和1，由数据集能计算出所给输入样本所产生的输出值取0和取1的概率。 对数回归的模型表示为： 输出用对数据是为了结果输出在[0,1]区间。 第八页，共二十页，2022年，8月28日 假设有一训练数据集，用线性回归建成模为： 并假设给出一新的待分类的样本，其输入值{x1,x2,x3}={1.,0,1}，用上面模型可估计出输出值为1的概率。 根据概率p的最终结果，可推出输出值Y=1的可能性比分类值Y=0小。 和挖掘的其他方法对比较。 第九页，共二十页，2022年，8月28日 5.7 对数-线性模型 对数-线性建模是一种分类(或数量型)变量间关系的方法。对数-线性模型近似于离散的、多元的概率分布。它是一种假设输出Yi具有泊松分布的的广义线性模型，假设其期望值μj的自然对数是输入的线性函数： 第十页，共二十页，2022年，8月28日 由于所感兴趣的变量是分类变量，用表示数据总体分布的频率表来表示它们。 对数-线性建模的主要目的是识别分类变量间的关联。因此，此类分类问题转换成了求模型中所有β值为0的问题。如果对数-线性模式中变量间有相互作用，表示这些变量不是独立的而是相关的，相应的β值不为0。 由于所研究的问题是变量间的关联，因此没有必要将分类变量作为分析的输出。如果需要输出，可采用对数回归来分析。此处仅解释一个定义数据集时没有输出变量的对数-对性模型。 第十一页，共二十页，2022年，8月28日 一致性分析是分析关联矩阵(也称列联表)中的分类数据。其分析结果回答了“所分析的变量间是否有关联”这个问题。 例如，下表是一个2×2列联表,有关男性和女性对堕胎态度的调查结果，样本数=1100,两个分类变量－性别(男性和女性)和赞同(是和否)，每一种情况都有累积结果。 赞 同 是 否 总计 性别 女 309 191 500 男 319 281 600 总计 628 472 1100 第十二页，共二十页，2022年，8月28日 对数－线性模型用于解决分类变量间的关联，分析步骤是它基于根据两个列联表的比较，定义变量间关联的算法： 　1.第一步，把所给的列联表转换成一个具有期望值的表，并假定这些变量间是在独立的情况下来计算这些值。 　2.第二步，用平均距离指标和卡方检验作为评价两个分类变量关联的标准，对这两个矩阵进行比较。 第十三页，共二十页，2022年，8月28日 算法思路：用Xm×n来表示这个列联表。 其行和为： 其列和为： 行和的总和为： 列和的总和为： 第十四页，共二十页，2022年，8