Andrew Ng 机器学习 笔记coursera ml notes.pdf

COURSERA 机器学习课笔记 by Prof. Andrew Ng Notes by Ryan Cheung Ryanzjlib@ Weibo@小小人_V 目录 目录 1 Week1 机器学习介绍7 1 机器学习介绍7 1.1 什么是机器学习?7 1.2 监督学习（Supervised Learning ）7 1.3 非监督学习（Unsupervised Learning ）9 Week1 单变量线性回归 11 2 单变量线性回归（Linear Regression with One Variable ） 11 2.1 模型表达（Model Representation ） 11 2.2 代价函数（Cost Function ） 12 2.3 梯度下降（Gradient Descent ） 13 2.4 对线性回归运用梯度下降法 13 Week2 多变量线性回归 15 3 多变量线性回归（Linear Regression with Multiple Variables ） 15 3.1 多维特征（Multiple Features ） 15 3.2 多变量梯度下降（Gradient descent for multiple variables ） 16 3.3 特征缩放（feature scaling ） 16 3.4 学习率(Learning rate) 17 Week2 多项式回归和正规方程 19 4 多项式回归和正规方程 19 1 4.1 多项式回归（Polynomial Regression ） 19 4.2 正规方程（Normal Equation ） 19 Week3 归一化 21 5 逻辑回归（Logistic Regression ）21 5.1 分类问题21 5.2 分类问题建模21 5.3 判定边界（Decision Boundary ）23 5.4 代价函数24 5.5 多类分类（Multiclass Classification ）26 Week3 归一化 28 6 归一化（Regularization ）28 6.1 过拟合问题（The Problem of Overfitting ）28 6.2 归一化代价函数（Regularization Cost Function ）29 6.3 归一化线性回归（Regularized Linear Regression ）30 6.4 归一化逻辑回归（Regularized Logistic Regression ）31 Week4 神经网络：表达 32 7 神经网络：表达32 7.1 非线性假设（Non-Linear Hypothesis ）32 7.2 神经网络介绍32 7.3 模型表达33 7.4 神经网络模型表达34 7.5 正向传播 (Forward Propagation) 35 2 7.6 对神经网络的理解36 7.7 神经网络示例：二元逻辑运算符（Binary Logical Operators ）36 7.8 多类分类37 Week5 神经网络：学习 39 8 神经网络：学习39 8.1 神经网络代价函数39 8.2 反向传播算法（Backpropagation Algorithm ）39 8.3 梯度检验 （Gradient Checking ）42 8.4 随机初始化 （Random Initialization ）43 8.5 综合起来43 Week6 机器学习应用建议 45 9 机器学习应用建议45 9.1 决定下一步做什么45 9.2 假设的评估（Evaluating a Hypothesis ）45