斯坦福大学2014机器学习个人笔记.docx

黄海广Haiguang2000@摘要本笔记是针对斯坦福大学2014年机器学习课程视频做的个人笔记最后修改：2015-2-17斯坦福大学2014机器学习教程个人笔记（V2.0）斯坦福大学2014机器学习教程中文笔记课程概述Machine Learning(机器学习)是研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。它是人工智能的核心，是使计算机具有智能的根本途径，其应用遍及人工智能的各个领域，它主要使用归纳、综合而不是演译。在过去的十年中，机器学习帮助我们自动驾驶汽车，有效的语音识别，有效的网络搜索，并极大地提高了人类基因组的认识。机器学习是当今非常普遍，你可能会使用这一天几十倍而不自知。很多研究者也认为这是最好的人工智能的取得方式。在本课中，您将学习最有效的机器学习技术，并获得实践，让它们为自己的工作。更重要的是，你会不仅得到理论基础的学习，而且获得那些需要快速和强大的应用技术解决问题的实用技术。最后，你会学到一些硅谷利用机器学习和人工智能的最佳实践创新。本课程提供了一个广泛的介绍机器学习、数据挖掘、统计模式识别的课程。主题包括：（一）监督学习（参数/非参数算法，支持向量机，核函数，神经网络）。（二）无监督学习（聚类，降维，推荐系统，深入学习推荐）。（三）在机器学习的最佳实践（偏差/方差理论；在机器学习和人工智能创新过程）。本课程还将使用大量的案例研究，您还将学习如何运用学习算法构建智能机器人（感知，控制），文本的理解（Web搜索，反垃圾邮件），计算机视觉，医疗信息，音频，数据挖掘，和其他领域。本课程需要10周共18节课，相对以前的机器学习视频，这个视频更加清晰，而且每课都有ppt课件，推荐学习。本人是中国海洋大学2014级博士生，目前刚开始接触机器学习，我下载了这次课程的所有视频和课件给大家分享。中英文字幕来自于/course/ml/course/ml，主要是教育无边界字幕组翻译，本人把中英文字幕进行合并，并翻译了部分字幕，对视频进行封装，归类，并翻译了课程目录，做好课程索引文件，希望对大家有所帮助。部分视频中文字幕由中国海洋大学的博士生翻译。视频已经翻译完毕（除了OCTAVE教程没有翻译），如果下载了视频，可以直接在文档中打开视频，内嵌中英文字幕。目前我正在整理中文笔记，主要是根据视频内容和中文字幕以及ppt来制作，部分来源于网络，如“小小人_V”的笔记，并持续更新。本人水平有限，如有公式、算法错误，请及时指出，发邮件给我。黄海广2014-12-16 夜文档修改历史版本号版本日期修改总结修订人1.02014.12.16创建初稿黄海广1.12014.12.31修改黄海广2.02015.02.17修改黄海广目录第1周1一、引言(Introduction)11.1 欢迎11.2 机器学习是什么？41.3 监督学习61.4 无监督学习10二、单变量线性回归(Linear Regression with One Variable)152.1 模型表示152.2 代价函数172.3 代价函数的直观理解I192.4 代价函数的直观理解II202.5 梯度下降212.6 梯度下降的直观理解222.7 梯度下降的线性回归232.8 接下来的内容24三、线性代数回顾(Linear Algebra Review)253.1 矩阵和向量253.2 加法和标量乘法273.3 矩阵向量乘法283.4 矩阵乘法293.5 矩阵乘法的性质303.6 逆、转置31第2周32四、多变量线性回归(Linear Regression with Multiple Variables)324.1 多维特征324.2 多变量梯度下降344.3 梯度下降法实践1-特征缩放364.4 梯度下降法实践2-学习率384.5 特征和多项式回归394.6 正规方程414.7 正规方程及不可逆性（可选）44五、Octave教程(Octave Tutorial)455.1 基本操作455.2 移动数据465.3 计算数据475.4 绘图数据485.5 控制语句：for，while，if语句495.6 矢量化505.7 工作和提交的编程练习51第3周52六、逻辑回归(Logistic Regression)526.1 分类问题526.2 假说表示536.3 判定边界556.4 代价函数576.5 简化的成本函数和梯度下降606.6 高级优化616.7 多类分类：一个对所有62七、正则化(Regularization)637.1 过拟合的问题637.2 代价函数657.3 正则化线性回归677.4 正则化的逻辑回归模型68第4周69第八、神经网络：表述(Neural Networks: Representation)698.1