Python数据分析课件：逻辑回归.pptxVIP

;逻辑回归（LogisticRegression）虽然被称为回归，但实际上是分类模型，常用于二分类。

逻辑回归因其简单、可并行化、且解释性强，深受工业界喜爱。

逻辑回归的数学模型和求解都比较简单，还可以处理非线性问题，是一个非常强大的分类器。;逻辑回归与线性回归模型的形式基本上相同，都具有ax+b，其中a和b是待求参数，其区别在于它们的因变量不同。

逻辑回归是在线性回归的基础上加了一个Sigmoid函数（非线形）映射，使得逻辑回归成为一个优秀的分类算法。

即：逻辑回归=线性回归+Sigmoid函数。

逻辑回归将线性回归结果y带入到Sigmoid函数，就轻而易举的将连续变量y转换为了0-1区间的一个概率值，从而实现二分类。;逻辑回归将线性回归结果y带入到Sigmoid函数，就轻而易举的将连续变量y转换为了0-1区间的一个概率值，从而实现二分类。;对于逻辑回归，最常用的损失函数就是交叉熵（CrossEntropy）。

单样本交叉熵损失函数：

m个样本的平均交叉熵损失函数：

;逻辑回归的参数求解方法很多，主要有梯度下降法和牛顿法。

梯度下降是迭代法的一种，是最常采用的方法之一，在求解损失函数的最小值时，可以通过梯度下降法来一步步的迭代求解。;逻辑回归求解的过程可以分为三个主要步骤：

1）确定一个合适的未知参数的预测函数（线性函数、多项式函数、椭圆函数等），这需要对样本有一定的观察分析能力和经验。

2）根据预测函数设计损失函数，损失函数要反映预测结果与实际类别的偏差。

3）通过某种方法从损失函数求出预测函数的未知参数，如梯度下降法等。

;在SKLearn库中，LogisticRegression是实现逻辑回归算法的一个类。该类的结构如下：

classsklearn.linear_model.LogisticRegression(penalty=l2,*,dual=False,tol=0.0001,C=1.0,fit_intercept=True,intercept_scaling=1,class_weight=None,random_state=None,solver=lbfgs,max_iter=100,multi_class=auto,verbose=0,warm_start=False,njobs=None,l1_ratio=None)

其中的参数含义及具体应用详见教材。;