监督学习应用与梯度下降.docVIP

监督学习应用与梯度下降 分类：?machine learning2014-04-12 23:42?17人阅读?评论(0)?收藏?举报 本课内容： 1、??线性回归 2、??梯度下降 3、??正规方程组? （复习）监督学习：告诉算法每个样本的正确答案，学习后的算法对新的输入也能输入正确的答案 ?1、?线性回归 例：Alvin汽车，先让人开车，Alvin摄像头观看（训练），而后实现自动驾驶。 本质是一个回归问题，汽车尝试预测行驶方向。? 例：上一节课的房屋大小与价格数据集 ?引入通用符号： m =?训练样本数 x =?输入变量（特征）y =?输出变量（目标变量）(x,y) –?一个样本 ?–第i个训练样本?= ?本例中：m：数据个数，x：房屋大小，y：价格 ?监督学习过程： 1)???????将训练样本提供给学习算法 2)???????算法生成一个输出函数（一般用h表示，成为假设） 3)???????这个函数接收输入，输出结果。（本例中为，接收房屋面积，输出房价）将x映射到y。 如下图所示： ? ? 对假设进行线性表示：?? 通常来说，回归问题有多个输入特征。如上例中，我们还已知房屋的卧室数，即有个第二个特征。即表示大小，表示卧室数，则可将假设写成： ?为了将公式写整洁，定义，则h可写成： n =?特征数目，?：参数 ? 选择的目的，是使h(x)与y的平方差尽量小。又由于有m个训练样本