原创力文档- 1、本文档共32页，可阅读全部内容。
- 2、原创力文档（book118）网站文档一经付费（服务费），不意味着购买了该文档的版权，仅供个人/单位学习、研究之用，不得用于商业用途，未经授权，严禁复制、发行、汇编、翻译或者网络传播等，侵权必究。
- 3、本站所有内容均由合作方或网友上传，本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺！文档内容仅供研究参考，付费前请自行鉴别。如您付费，意味着您自己接受本站规则且自行承担风险，本站不退款、不进行额外附加服务；查看《如何避免下载的几个坑》。如果您已付费下载过本站文档，您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等，请点击“版权申诉”（推荐），也可以打举报电话：400-050-0827(电话支持时间：9:00-18:30)。
- 5、该文档为VIP文档，如果想要下载，成为VIP会员后，下载免费。
- 6、成为VIP后，下载本文档将扣除1次下载权益。下载后，不支持退款、换文档。如有疑问请联系我们。
- 7、成为VIP后，您将拥有八大权益，权益包括：VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
- 8、VIP文档为合作方或网友上传，每下载1次， 网站将根据用户上传文档的质量评分、类型等，对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
《神经网络与深度学习》
各损失函数的理论基础
马千里
计算机科学与工程学院
上次课，我们知道：
•对逻辑回归，正确的损失函数应该是交叉熵
损失函数
•那么……
•这又是为什么？为什么说逻辑回归用交叉熵
损失函数是正确的？合理性在哪里？是必然
的吗？
一切从极大似然（MaximumLikelihood）
开始说起:
各损失函数的理论基础
•什么是极大似然？
•它是如何导致误差平方和（SumSquaredError,
SSE)是线性回归的损失函数？
•它是如何导致交叉熵是逻辑回归的损失函数？
•它是如何导致交叉熵是多分类模型的损失函数？
•总结
内容
•什么是极大似然？
•它是如何导致误差平方和（SumSquaredError,SSE)
是线性回归的损失函数？
•它是如何导致交叉熵是逻辑回归的损失函数？
•它是如何导致交叉熵是多分类模型的损失函数
•总结
极大似然
•主要思想:
•给定数据D，模型中哪些参数W最有可能产
生这种数据D?
•也就是说，我们希望参数W是代表最大化的
P(W|D).
•这是很困难的一个问题.
•幸好我们有贝叶斯定理:
极大似然
•贝叶斯定理:
•注意到:
•数据的概率P(D)是标准化常量.
•对P(W)，我们没有理由，先验地假设一些W比
另一些好，所以我们假设，先验是平坦的，即
所有W的概率都是相等的.
•因此对P(W)，这个先验,可以看做常数.
极大似然
•因此，对于一个均匀分布的先验(uniformprior):
•由此得名：MaximumLikelihood.
•具体来说,我们希望模型（神经网络参数W）
能尽可能地使观察到的数据成为可能.
•如何对数据分布建模就成为了关键。
极大似然
•举例:高斯分布(Gaussiandistributions)
•假设数据点都是独立同分布的（independently
identicallydistributed,iid),则数据的似然函数:
L
极大似然
•最终,极大似然要求我们选择μ和σ，使得:
L
•选择参数，最大化似然函数，也就是说，我们
应该选择最大化生成这些数据可能性的参数。
•那么，如何做到？
这个高斯分布对数
据来说有可能吗？
MaximumLikelihood
Supposewehavesomegradesfromaclass:
这个呢?
MaximumLikelihood
Supposewehavesomegradesfromaclass:
这个呢？
MaximumLikelihood
Supposewehavesomegradesfromaclass:
如
文档评论（0）