- 1、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
- 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
- 4、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
- 5、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们。
- 6、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
- 7、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
机器学习
第3讲:线性回归
授课教师:陈园琼
专业:软件工程2019级
吉首大学软件学院
吉首大学软件学院
主要内容
1.线性回归模型
2.损失函数/代价函数
3.梯度下降法
4.最小二乘法
5.线性回归实例分析
吉首大学软件学院
1、线性回归模型
回归分析是使用方程来表达感兴趣的变量(因变量)
与一系列相关变量(自变量)之间关系的分析过程。
•线性回归假设输入和输出之间的映射服从线性关系
•一种最简单的有监督机器学习模型
•计算量小,预测效果不错
吉首大学软件学院
回归分析的对象与目的
•“相关关系”的变量:
–不能用函数刻画,但具有一定的“趋势性”关系的变量
•比如:
–人的身高x与体重y;父亲的身高x与儿子的身高y
–公司的收入x与股票价格y
•研究对象:具有相关关系的变量
•研究目的:寻找她们之间客观存在的依赖关系
吉首大学软件学院
回归模型
•以房屋价格预测为例分析线性回归模型构建步骤:
吉首大学软件学院
线性回归模型:
H(x)x(2-1)
110
其中x=(x,x,,x),nN,为训练集中的输入量,
111121n
n为训练集中的样本数量。
对应以上房价例子中,x1为历史房屋面积,对应表格中数据行数,n=10
n
因为只有一个特征输入所以这个模型就是最简单的一元回归模型。
,,
单变量的线性回归(Linearregressionwithonevariable),
吉首大学软件学院
线性回归模型预测原理:
H(x)x(2-1)
110
H就是需要学习的映射关系,也可以认为是一种猜想(Hypothesis)预测值。
y=(y,y,,y),nN训练集中的实际值-“标准答案”
111121n
代价函数(Costfunction)或者损失函数(Lossfunction):“标准答案”与模型猜想值
的差距
0和1是线性模型的斜率和截距
吉首大学软件学院
多元线性线性回归模型:
然而现实世界一种现象常常与多个因素相关,因此需要建立多变量的线性回归模型,
即多元线性回归(Linearregressionwithmultiplevariables)。
还是以房价和面积的关系为例,其实房价由很多因素决定,比如除了面积以外,还与
房间数量,所在楼层,地段、朝向和房龄等因素相关。
2
面积(m)房间数量所在楼层房龄(年)价格(万)
2043125320
1203310235
150
文档评论(0)