多元回归与多元相关分析.pptVIP

*第1页，共30页，星期日，2025年，2月5日*第一节：多元回归分析一、多元线性回归模型多元线性回归：是指具有两个或两个以上自变量，且各自变量均为一次项的回归。多元回归跟一元回归在很多方面是相同的，只是多元回归方法更复杂些，计算量相当大，一般通过计算机程序来完成计算。第2页，共30页，星期日，2025年，2月5日*设因变量Y与自变量x1,x2,…xm有关系式：Y=a+b1x1+b2x2+…+bmxm+ε其中ε是随机项。现有n组数据：（y1；x11，x21，…xm1）（y2；x12，x22，…xm2）………..（yn；x1n，x2n，…xmn）其中，xij是自变量xi的第j个值，yj是Y的第j个观测值。第3页，共30页，星期日，2025年，2月5日*假定：其中a,b1,…bm是待估参数；而ε1，ε2,…，εn相互独立且服从相同的分布N（0，σ2）第4页，共30页，星期日，2025年，2月5日*样本多元回归方程为：第5页，共30页，星期日，2025年，2月5日*二．多元线性回归方程的建立同直线回归一样，用最小二乘法要使Q达到最小，就必须使Q的偏微分方程皆等于0，即有：第6页，共30页，星期日，2025年，2月5日*………..………..整理得：第7页，共30页，星期日，2025年，2月5日*其中：该方程组用矩阵表示为：第8页，共30页，星期日，2025年，2月5日*若系数矩阵用A表示，未知项矩阵用b表示，常数矩阵用K表示，则可写为：Ab=K(13.8)为了求解b，一般应先求出A的逆矩阵A-1，令：A-1是一个m阶的对称矩阵，即有cij=cji第9页，共30页，星期日，2025年，2月5日*A-1A=I式12.8两边同乘以A-1，可得b=A-1K即：例13.1第10页，共30页，星期日，2025年，2月5日*三、多元回归的假设检验和置信区间（一）??多元线性回归方程的估计标准误其中：Sy/12…m——多元回归方程的估计标准误；Qy/12…m——多元回归方程的离回归平方和（剩余平方和）；df=n-(m+1)=n-m-1，因为在计算多元回归方程时，已用去a,b1,b2,…,bm共m+1个统计数。第11页，共30页，星期日，2025年，2月5日*与直线回归分析类似，多元回归中因变量y的总平方和也可分解为离回归平方和（剩余平方和）与回归平方和（Uy/12…m）即：例13.2第12页，共30页，星期日，2025年，2月5日*（二）多元线性回归方程的假设检验多元线性回归关系假设检验的原理和方法与直线回归关系的假设检验是一样的。其假设为;HA:不全为0。可通过F检验来实现：式中：分子自由度df1=m，分母自由度df2=n-(m+1)第13页，共30页，星期日，2025年，2月5日*这里应注意两个问题：1）多元线性回归关系显著不排斥有更合理的多元非线性回归方程的存在；2）多元线性回归关系显著也不排斥其中存在着与因变量y无线性关系的自变量，因此有必要对各偏回归系数逐个进行假设检验，以便发现和剔除β=0的自变量。一般说来，只有当多元回归方程的自变量的偏回归系数均达到显著时，多元回归检验的F值才有确定意义。例13.3第14页，共30页，星期日，2025年，2月5日*（三）偏回归系数的假设检验偏回归系数的假设检验是逐个分别计算各偏回归系数bi来自βi=0的总体的概率。所作的假设为：偏回归系数的假设检验有t检验和F检验两种。t检验和F检验结果是完全一样的（F=t2）,实际应用时可任选一种。第15页，共30页，星期日，2025年，2月5日*（1）t检验偏回归系数bi的标准误为：符合df=n-(m+1)的t分布，故在H0:βi=0的假设下，由可知bi抽自βi的总体的概率。第16页，共30页，星期日，2025年，2月5日*（2）F检验Upi——y在xi上的偏回归平方和可确定bi来自βi=0的总体的概率。例13.4第17页，共30页，星期日，2025年，2月5日*