机器学习原理与应用电子教案 [5.2]Logistis回归.docxVIP

备课日期：年月日

授课时间

课时（理论+实验）

周次

星期:节次:

授课课题

Logistic回归

教学目标

1.理解Logistic回归原理及与线性回归的联系。

2.掌握Logistic回归数学模型构建与求解方法。

3.掌握Logistic回归算法的Scikit-learn库使用方法。

教学重点

1.模型构建与求解方法；2.Scikit-learn库的使用。

教学准备

PPT、点名册等。

教学方法

指导阅读、案例法。

教学过程设计

备注

课题引入

【思考】1.线性回归的特点：输出范围有什么意义？

2.如何解决二分类问题（牛免分类、病人患病的概率等）？

【关键】通过Logistic函数将线性回归模型的输出映射至区间[0,1]，进而实现二分类问题的求解。

【时间】分钟。

教学步骤及主要内容

【主板书】§3.2.Logistic回归

一、基本原理

【主板书】基本原理

1.Logistic函数形式。

2.对线性回归模型输出的映射变换。

3.在实际中的应用。

【强化与拓展】（1）二分类问题：阈值的设定；（2）分类界线的绘制：直线方程的构造。

【时间】分钟。

【提问】。

二、模型构建与求解

【主板书】模型构建与求解

1.损失函数：交叉熵损失函数。

2.代价函数数学表达式。

3.利用梯度下降算法求解

【强化与拓展】（1）求取梯度；（2）Logistic函数的导数。

〖PPT〗演示梯度求解过程。

【强化与拓展】解释梯度中含义：

【时间】分钟。

【提问】。

三、编程实现

【主板书】编程实现

1.实验数据：make_moons。

【强化与拓展】数据可视化：颜色列表定义与使用。

importmatplotlibasmpl

cm_pt=mpl.colors.ListedColormap([w,g])#设置颜色映射

plt.scatter(x[:,0],x[:,1],c=y,cmap=cm_pt)

2.面向对象编程：Logistic回归类。

【强化与拓展】

（1）构造函数：名称、初始化参数。

（2）Sigmoid函数。

（3）利用梯度下降方法求解模型参数的关键点。

①如何获取样本数？

②如何构增广样本（hstack()函数）？

X=np.hstack([np.ones([row,1]),x])

③如何计算模型输出？

fx=np.dot(self.w,X.T)

hx=self.sigmoid(fx)

④如何求模型输出与真值间的差异？

hx_y=(hx-y)

⑤如何同时求三个参数对应的导数？

hx_y_ext=np.vstack([hx_y.T,hx_y.T,hx_y.T]).T

s=np.multiply(hx_y_ext,X)

⑥如何利用所有样本生成梯度并更新参数？

gradient_w=np.mean(s,0)

self.w-=self.step*gradient_w

（4）预测函数。

①列表赋值：C=P.copy()。

②列表批量操作：C[C0.5]=1。

③dot()与multiply()之间的差异。

3.Logisitc回归类的实例化。

4.结果输出：绘制分类界线、预测类别。

【时间】分钟。

【提问】。

四、Scikit-learn库的使用

【主板书】Scikit-learn库的使用

（1）库导入：fromsklearn.linear_modelimportLogisticRegression

（2）模型构建与方法调用：

L=LogisticRegression()#构建回归模型

L.fit(X_train,y_train)#数据拟合

（3）常用属性：

fit(x,y)：拟合训练样本[x,y]。

predict(x)：预测样本x的类别标识。

predict_proba(x)：预测概率值。

score(x,y)：输出结定样本和分类标识的平均准确度。

〖PPT〗演示要点：

产生数据。

库的导入。

模型求解：斜率与截距。

结果显示：绘制直线。

【时间】分钟。

【提问】。

课堂练习

无

其他

无

小结与作业

课堂小结

Logistic回归与线性回归的模型形式上都具有wTx+b（其中w和b是待求参数），其区别在于其因变量不同，线性回归直接将wTx+b作为因变量，即y=wTx+b，而Logistic回归则通过Sigmoid函数将wTx+b进行变换并作为因变量输出。

本课作业

利用Scikit-learn库生成make_moons数据并将数据划分为训练数据与测试数据两部分。

fromsklearn.datasets