Python大数据分析与挖掘实战课件 6-1.线性回归.pptxVIP

第6章机器学习与实现一元线性回归多元线性回归线性回归应用举例

一元线性回归第6章变量之间的相互关系，主要有3种：①确定的函数关系，y=f(x)。②不确定的统计相关关系，y=f(x)+??。③没有关系，不用分析。比如：引例1：旅游总收入（y），居民平均收入（x）引例2：子女的身高（y），父母的身高（x）引例3：圆的半径（r），圆的面积（s）

一元线性回归第6章一元线性回归模型y为因变量（随机变量），x为自变量（确定的变量），为模型系数，每给定一个x，就得到y的一个分布。对回归模型两边取数学期望，得到以下回归方程：回归方程的估计形式：

一元线性回归第6章（1）参数估计如何对这些观测值给出最合适的拟合直线呢？使用最小二乘法。其基本思路是真实观测值与预测值（均值）总的偏差平方和最小，计算公式如下：求解以上最优化问题，即得到：其中最后得到了基于经验的回归方程

一元线性回归第6章（2）模型评价：拟合优度（判定系数），值越大表明直线拟合程度越好。指标公式：其中：RSS反映回归方程解释原始变量波动的比例。

多元线性回归第6章将一元线性回归模型推广为多元线性回归模型，即自变量为多个时：对于总体的n个观测值，方程组的模型形式：其中相互独立，且矩阵的模型形式为，其中即为待估计的向量

多元线性回归第6章则回归方程：其一般的形式如下其中分布为期望值及回归系数的估计的参数估计（最小二乘法，过程略）为拟合优度（判定系数）公式为：

线性回归应用举例第6章在发电场中电力输出（PE）与温度（AT）、压力（V）、湿度（AP）、压强（RH）有关，相关测试数据（部分）如表所示ATVAPRHPE8.3440.771010.8490.01480.4823.6458.491011.474.2445.7529.7456.91007.1541.91438.7619.0749.691007.2276.79453.09…………需实现的功能如下：（1）利用线性回归分析命令，求出PE与AT、V、AP、RH之间的线性回归关系式系数向量（包括常数项）和拟合优度（判定系数），并在命令窗口输出。（2）现有某次测试数据AT=28.4、V=50.6、AP=1011.9、RH=80.54，试预测其PE值。

线性回归应用举例第6章1．读取数据，确定自变量x和因变量yimportpandasaspddata=pd.read_excel(发电场数据.xlsx)x=data.iloc[:,0:4].valuesy=data.iloc[:,4].values

线性回归应用举例第6章（1）导入线性回归模块（简称LR）。fromsklearn.linear_modelimportLinearRegressionasLR（2）利用LR创建线性回归对象lr。lr=LR()（3）调用lr对象中的fit()方法，对数据进行拟合训练。lr.fit(x,y)（4）调用lr对象中的score()方法，返回其拟合优度，观察线性关系是否显著。Slr=lr.score(x,y)#判定系数R2（5）取lr对象中的coef_、intercept_属性，返回x对应的回归系数和回归系数常数项。c_x=lr.coef_#x对应的回归系数c_b=lr.intercept_#回归系数常数项2.线性回归分析

线性回归应用举例第5章（1）可以利用lr对象中的predict()方法进行预测。importnumpyasnpx1=np.array([28.4,50.6,1011.9,80.54])x1=x1.reshape(1,4)R1=lr.predict(x1)（2）也可以利用线性回归方程式进行预测，这个方法需要自行计算。r1=x1*c_xR2=r1.sum()+c_b#计算预测值3．利用线性回归模型进行预测执行结果为：x回归系数为：[-1-00-0.1580541]回归系数常数项为：454.609274315判定系数为：0.928696089812样本预测值为：[436（3）输出相关结果。print(x回归系数为：,c_x)print(回归系数常数项为：,c_b)