第二单元一元线性回归模型.pptVIP

第二章 一元线性回归模型 回归模型的一般描述 参数的最小二乘估计 最小二乘估计量的统计特性 统计显著性检验 预测与控制 案例分析 第一节 回归模型的一般描述 （1）确定性关系或函数关系：变量之间 有唯一确定性的函数关系。其一般表现形式为： 注意 ①不线性相关并不意味着不相关。 ②有相关关系并不意味着一定有因果关系。 ③回归分析/相关分析研究一个变量对另一个（些）变量的统计依赖关系，但它们并不意味着一定有因果关系。 ④相关分析对称地对待任何（两个）变量，两个变量都被看作是随机的。回归分析对变量的处理方法存在不对称性，即区分应变量（被解释变量）和自变量（解释变量）：前者是随机变量，后者不是。 2、总体回归模型 注：回归分析的基本概念 回归分析(regression analysis)是研究一个变量关于另一个（些）变量的具体依赖关系的计算方法和理论。 其目的在于通过后者的已知或设定值，去估计和（或）预测前者的（总体）均值。 被解释变量（Explained Variable）或应变量（Dependent Variable）。 解释变量（Explanatory Variable）或自变量（Independent Variable）。 记该直线方程为： ▼回归分析的主要目的：根据样本回归函数SRF，估计总体回归函数PRF。 回归分析的主要目的是要通过样本回归函数（模型）SRF尽可能准确地估计总体回归函数（模型）PRF。 估计方法有多种，其中最广泛使用的是普通最小二乘法（ordinary least squares, OLS）。 为保证参数估计量具有良好的性质，通常对模型提出若干基本假设。 实际这些假设与所采用的估计方法紧密相关。 二、参数的普通最小二乘估计（OLS） 给定一组样本观测值（Xi, Yi）（i=1,2,…n）要求样本回归函数尽可能好地拟合这组值. 普通最小二乘法（Ordinary least squares, OLS）给出的判断标准是：全部观测值的残差平方和 三、参数估计的最大或然法(ML) 最大或然法(Maximum Likelihood,简称ML)，也称极大似然法，是不同于最小二乘法的另一种参数估计方法，是从最大或然原理出发发展起来的其他估计方法的基础。 基本原理： 对于最大或然法，当从模型总体随机抽取n组样本观测值后，最合理的参数估计量应该使得从模型中抽取该n组样本观测值的概率最大。 线性性 无偏性 有效性（最小方差性） 随机干扰项方差的估计 回归系数的区间估计 第四节 统计显著性检验 一、拟合优度检验 二、变量的显著性检验 回归分析是要通过样本所估计的参数来代替总体的真实参数，或者说是用样本回归线代替总体回归线。 一、拟合优度检验(Goodness of Fit Test) 拟合优度检验：对样本回归直线与样本观测值之间拟合程度的检验。 度量拟合优度的指标：样本决定系数R2 (图示) 离差平方和的分解 (三个平方和的关系) 离差平方和的分解 (三个平方和的意义) 总离差平方和(TSS) 反映因变量的 n 个观察值与其均值的总离差 可解释平方和或回归平方和(ESS) －－　由自变量x的变动引起； ３.　残差平方和(RSS) 反映除 x 以外的其他因素对 y 取值的影响，也称为不可解释的平方和或剩余平方和 样本决定系数（可决系数）  (coefficient of determination) 回归平方和占总离差平方和的比例 假设检验的基本思想 显著性水平a 和拒绝域(左侧检验 ) 显著性水平? 和拒绝域(双侧检验 ) 二、变量的显著性检验 回归分析是要判断解释变量X是否是被解释变量Y的一个显著性的影响因素。 在一元线性模型中，就是要判断X是否对Y具有显著的线性性影响。这就需要进行变量的显著性检验。 1、假设检验 所谓假设检验，就是事先对总体参数或总体分布形式作出一个假设，然后利用样本信息来判断原假设是否合理，即判断样本信息与原假设是否有显著差异，从而决定是否接受或否定原假设。 假设检验采用的逻辑推理方法是反证法。 先假定原假设正确，然后根据样本信息，观察由此假设而导致的结果是否合理，从而判断是否接受原假设。 判断结果合理与否，是基于“小概率事件不易发生”这一原理的 关于F检验 零假设H0：b=0 备择HA：b0 H0：b=0 ==RSS中的X不起作用，RSS变动无异于随机变动== 分子方差与分母方差是一回事==F=1 如果F显著地大于1，甚至FF?==小概率事件发生了，根据小概率原理，小概率