Python数据分析与可视化教学ppt-数据分析理论与Python实战-Pandas与scikit-learn实现数据的分析.pptVIP

第七章 Pandas与scikit-learn 实现数据地分析 目录 7.1 分类方法 7.2 回归方法 7.3 聚类方法 分类方法:Logistic回归 实现 sklearn.linear_model.LogisticRegression 支持 二分类（binary） 一对多分类（one vs rest） 多项式回归 可以选择L1或L2正则化 分类方法:Logistic回归 In [1]: import numpy as np from sklearn import linear_model,datasets In [2]: iris = datasets.load_iris() X = iris.data Y = iris.target In [3]: log_reg = linear_model.LogisticRegression() log_reg.fit(X,Y) Out [3]: LogisticRegression(C=1.0,class_weight=None,dual=False, fit_intercept=True,intercept_scaling=1,max_iter=100, multi_class=ovr,n_jobs=1,penalty=l2, random_state=None,solver=liblinear, tol=0.0001, verbose=0, warm_start=False) In [4]: log_reg.predict([1,2,3,4]) Out [4]: array([2]) LogisticRegression类中提供优化方案（solver字段选择）: liblinear（默认） newton-cg lbfgs sag saga 分类方法:Logistic回归 logistic回归solver选择 Case Solver L1正则 “liblinear”,“saga” 多项式损失（multinomial loss） “lbfgs”,“sag”,“saga”“newton-cg” 大数据集（n_samples） “sag”,“saga” liblinear: 应用了坐标下降,基于C++库实现。 不是真正意义上地多分类模型,而是基于“one-vs-rest”思想,为每个类别训练了一个二元分类器。 lbfgs,sag与newton-cg: 只支持L2惩罚项,对某些高维数据收敛更快。 参数 `multi_class`设为“multinomial”即为真正地分类,其预测比liblinear更为准确。 sag: 基于平均随机梯度下降算法。 在大数据集上地表现更快,大数据集指样本量大且特征数多。 saga: sag地变体,它支持非平滑地L1正则选项penalty=l1。 对于稀疏多项式logistic回归效果较好。 分类方法:SVM 实现: sklearn.svm.SVC() sklearn.svm.NuSVC() sklearn.svm.LinearSVC() 区别: SVC与NuSVC比较接近,两者参数略有不同。 LinearSVC仅支持线性核函数地分类 分类方法:SVM In [1]: import numpy as np from sklearn import svm,datasets In [2]: iris = datasets.load_iris() X = iris.data Y = iris.target In [3]: clf1 = svm.SVC() clf2 = svm.NuSVC() clf3 = svm.LinearSVC() In [4]: clf1.fit(X,Y) Out [4]: SVC(C=1.0, cache_size=200, class_weight=None, coef0=0.0, decision_function_shape=None, degree=3, gamma=auto, kernel=rbf,max_iter=-1, probability=False, random_state=None, shrinking=True,tol=0.001, verbose=False) In [5]: clf2.fit(X,Y) Out [5]: NuSVC(cache_size=200, class_weight=None, coef0=0.0, decision_function_shape=None, degree=3, gamma=auto,