人工神经网络_深度学习.pptVIP

* * * * . * * * * * * * * * * * * 稀疏自动编码器 §7.3 几种典型的深度学习模型 §7.4 几种典型的深度学习模型 自动编码器(AutoEncoder) 7.3.2深度信任网络DBN 受限 可视层各节点间无连接 隐含层各节点间无连接 可视层作为向量输入 隐含层作为特征检测器 可为二值节点（可取0或1）或实数节点（0～1） 可视层、隐含层的节点数量不定 §7.3 几种典型的深度学习模型 Restricted Boltzman Machine (RBM) RBM的能量 对特定的(v, h)，其能量函数定义为 对每种可能的p(v, h)分布满足 Boltzmann 分布 §7.3 几种典型的深度学习模型 RBM的状态更新/重采样 给定可视层每个节点v，隐含层的每个节点hj依下式确定的概率取1（条件独立） 同样，给定隐含层每个节点h，可依下式确定的概率获得可视层各结点的的无偏估计样本（条件独立） §7.3 几种典型的深度学习模型 §7.3 几种典型的深度学习模型 将多个RBM层叠在一起 前一层RBM的隐含层作为后一层RBM可视层的输入 深度信任网络DBN的构成 概率生成模型 多个受限玻尔兹曼机RBM层组成 §7.3 几种典型的深度学习模型 深度信任网络DBN的训练 对比散度CD算法Contrastive Divergence (Hin