回归分析初步与计算机模.pptxVIP

回归分析初步与计算机模第1页/共33页 回归分析的基本思想和方法 在客观世界中普遍存在着变量之间的关系，变量之间的关系一般来说可分为确定性的与非确定性的两种。确定性关系是指变量之间可以用确定的函数关系来表达 (插值或拟合)。非确定性关系，例如人的身高和体重的关系、人的血压和年龄的关系、某产品的广告投入与销售额间的关系等，它们之间是有关联的，但又不能用普通函数来表示，我们称这类非确定性关系为相关关系。 具有相关关系的变量在很多时候涉及到随机变量，虽然不具有确定的函数关系，但是可以借助函数关系来近似表示它们之间的统计规律，这种近似地表示它们之间的相关关系的函数被称为回归函数，对应的数学方法称为回归分析。第2页/共33页 回归分析的基本思想和方法 回归分析是数学建模的有力工具，那么我们要建立回归函数的数学模型，一般需要以下步骤：1、采集一组包含自变量和因变量的数据；2、选定自变量与因变量之间的模型，利用数据 按照最小二乘准则计算模型中的系数；3、利用统计分析方法对不同的模型进行比较， 找出与数据拟合得最好的模型；4、判断得到的模型是否适合于这组数据，诊断 有无不适合回归模型的异常数据；5、利用模型对因变量做出预测或解释。 附注：在第2步中，选定自变量与因变量的模型时，一般是凭经验选取模型。回归分析主要包括一元线性回归，多元线性回归以及非线性回归第3页/共33页 一元线性回归( linear regression )基于最小二乘的一元线性回归函数regress：Unary Linear Regression Analysis：b = regress(y,X)[b,bint,r,rint,stats] = regress(y,X,alpha)范例 为实时地调整切削机床，需测定刀具的磨损程度，每隔一小时测量刀具的厚度得到以下的数据，试建立刀具厚度关于切削时间的回归模型，对模型和系数进行检验，预测15小时后刀具的厚度:时间(h)012345678910厚度(cm)30.629.128.428.128.027.727.527.227.026.826.5第4页/共33页 一元线性回归( linear regression )1、对原始数据进行观察，确定回归模型：x=0:1:10;y=[30.6,29.1,28.4,28.1,28.0,27.7,27.5,27.2,27.0,26.8,26.5];plot(x,y,rs,linewidth,2);从原始数据上看，可以建立一元线性回归模型：第5页/共33页 一元线性回归( linear regression )2、线性回归函数regress相关参数的统计学意义: 其中，alpha表示显著性水平，缺省时为0.05；b为回归系数估计值，bint为回归系数的置信区间；r是残差，rint是残差的置信区间；stats是用于检验回归模型的统计量。 统计量stats有三个数值： 一是相关系数 R的平方(用于相关系数评价，R的绝对值间于0.8～1，越靠近1表明回归显著) ；二是统计量F(用于F检验法，F的值大于F1-a(v1,v2)表明回归显著)；三是与F对应的概率P(P≤alpha表明回归显著，一般0.01＜P ≤ 0.05被认为是具有统计学意义，而0.001 ≤ P ≤ 0.01被认为具有高度统计学意义)第6页/共33页 一元线性回归( linear regression )3、计算回归模型各项系数并绘制时序残差图:x=0:1:10; y=[30.6,29.1,28.4,28.1,28.0,27.7,27.5,27.2,27.0,26.8,26.5];alpha=0.05; x=[ones(length(x),1),x]; y=y;[b,bint,r,rint,stats]=regress(y,x,alpha);%线性回归disp([回归系数b估计值:, num2str(b)]);disp([相关系数R绝对值:,num2str(sqrt(stats(1)))]);%此值至少间于0.8～1，越接近1越显著disp([假设检验统计量F:,num2str(stats(2))]);%此值大于F分布查表值finv(0.95,1,9)，越大于越显著disp([统计量F对应概率P:,num2str(stats(3))]);%此值小于alpha(默认0.05)，越小于越显著rcoplot(r,rint) %画出残差及其置信区间(时序残差图)fprintf(回归函数为 y=%.4f+%.4f*x\n,b(1),b(2));第7页/共33页 一元线性回归( linear regression )4、诊断并剔除不适合回归