Machine_Learning講座笔记_刘佳倩_最终版.docxVIP

Machine Learning讲座笔记Written by刘佳倩Instructed by 夏粉演讲者：浙江大学 何晓飞演讲时间： 2012-02-14 目录理论知识部分2分类问题2线性可分模型2线性不可分模型4回归问题6分类问题V.S.回归问题6学习模型7流形Manifold9降维PCA9ISOMAP9流形正则化9实际应用部分10图像搜索Image Search10基本知识介绍10图像搜索的步骤10近似搜索10排序学习Learning to Rank11背景描述11模型设计11矩阵分解和推荐Matrix Factorization and Recommendation12基本概念12实际例子12解决方法12注：本文所有插图，除特别注明，均为作者画图板所做，存在一定程度上的比例不调，请多包涵。理论知识部分分类问题线性可分模型如果用一个线性函数可以将两类样本完全分开，就称这些样本是“线性可分”的。以二维为例，假设training data是二维的，分为两类：红和蓝。则图1中的红点和蓝点是线性可分的。（图1）可行划分如何找到一个可行划分呢？有一种方法叫感知机(Perceptron)，下面是wikipedia上对感知机的介绍：(/wiki/%E6%84%9F%E7%9F%A5%E5%99%A8源地址)我们首先定义一些变量：x(j)?表示n维输入向量中的第j项w(j)?表示权重向量的第j