logo

您所在位置网站首页 > 海量文档  > 计算机 > 行业软件

UFLDL教程.pdf 132页

本文档一共被下载: ,您可全文免费在线阅读后下载本文档。

  • 支付并下载
  • 收藏该文档
  • 百度一下本文档
  • 修改文档简介
全屏预览

下载提示

1.本站不保证该用户上传的文档完整性,不预览、不比对内容而直接下载产生的反悔问题本站不予受理。
2.该文档所得收入(下载+内容+预览三)归上传者、原创者。
3.登录后可充值,立即自动返金币,充值渠道很便利
特别说明: 下载前务必先预览,自己验证一下是不是你要下载的文档。
  • 上传作者 l215322(上传创作收益人)
  • 发布时间:2017-04-28
  • 需要金币250(10金币=人民币1元)
  • 浏览人气
  • 下载次数
  • 收藏次数
  • 文件大小:3.44 MB
下载过该文档的会员
UFLDL教程
你可能关注的文档:
UFLDL 教程-深度神经网络 说明:本教程将阐述无监督特征学习和深度学习的主要观点。通过学习,你也将实现多个功能学 习/深度学习算法,能看到它们为你工作,并学习如何应用/适应这些想法到新问题上。 本教程假定机器学习的基本知识 第一章.稀疏自编码器 1. 神经网络 以监督学习为例,假设我们有训练样本集 ,那么神经网络算法能够提供一种复 杂且非线性的假设模型 ,它具有参数 ,可以以此参数来拟合我们的数据。 为了描述神经网络,我们先从最简单的神经网络讲起,这个神经网络仅由一个“神经元”构成,以 下即是这个“神经元”的图示: 这个“神经元”是一个以 及截距 为输入值的运算单元,其输出 为 ,其中函数 被称为 “激活函数”。在本教程中,我们选用 sigmoid 函数作为激活函数 可以看出,这个单一“神经元”的输入-输出映射关系其实就是一个逻辑回归(logistic regression)。 虽然本系列教程采用 sigmoid 函数,但你也可以选择双曲正切函数(tanh): 以下分别是 sigmoid 及 tanh 的函数图像 函数是 sigmoid 函数的一种变体,它的取值范围为 ,而不是 sigmoid 函数的 1 注意,与其它地方(包括 OpenClassroom 公开课以及斯坦福大学 CS229 课程)不同的是, 这里我们不再令 。取而代之,我们用单独的参数 来表示截距。 最后要说明的是,有一个等式我们以后会经常用到:如果选 , 也就是 sigmoid 函数,那么它的导数就是 (如果选择 tanh 函 数,那它的导数就是 ,你可以根据 sigmoid(或 tanh)函数的定义 自行推导这个等式。 神经网络模型 所谓神经网络就是将许多个单一“神经元”联结在一起,这样,一个“神经元”的输出就可以是另一 个“神经元”的输入。例如,下图就是一个简单的神经网络: 我们使用圆圈来表示神经网络的输入,标上“ ”的圆圈被称为偏置节点,也就是截距项 。 神经网络最左边的一层叫做输入层,最右的一层叫做输出层(本例中,输出层只有一个节点)。 中间所有节点组成的一层叫做隐藏层,因为我们不能在训练样本集中观测到它们的值。同时可以 看到,以上神经网络的例子中有 3 个输入单元(偏置单元不计在内),3 个隐藏单元及一个输出 单元。 我们用 来表示网络的层数,本例中 ,我们将第 层记为 ,于是 是输入层, 输出层是 。本例神经网络有参

发表评论

请自觉遵守互联网相关的政策法规,严禁发布色情、暴力、反动的言论。
用户名: 验证码: 点击我更换图片

“原创力文档”前称为“文档投稿赚钱网”,本站为“文档C2C交易模式”,即用户上传的文档直接卖给(下载)用户,本站只是中间服务平台,本站所有文档下载所得的收益归上传人(含作者)所有【成交的100%(原创)】。原创力文档是网络服务平台方,若您的权利被侵害,侵权客服QQ:3005833200 电话:19940600175 欢迎举报,上传者QQ群:784321556