UCAS模式识别8_神经网络02.pdf

中国科学院大学计算机与控制学院硕士课 《模式识别》 第6章第2讲 人工神经网络 Artificial Neural Networks 向 世 明 smxiang@nlpr.ia.ac.cn 助教：杨学行(xhyang@nlpr.ia.ac.cn); 吴一超(yichao.wu@nlpr.ia.ac.cn) 内容提要 • 介绍 – 发展历史 – 网络结构 • 基本模型 – 单层感知器、多层感知器、RBF 网络 • 扩展模型 – Hopfield 网络、RBM 、DNN 、CNN、Autoencoder 、 RNN 、LSTM等 第四节 多层感知器 6.4.1 多层感知器 j •三层网络的描述 – 训练数据输入输出对：{x k, t k } i j – 输出层结点的输出： z k h j – 隐含层结点的输出： y hk – 输入信号： xik i – 输入端点数目： d+1 – 输入层结点i 至隐含层结点h 的权重：wih – 隐含层结点h 至输出层结点j 的加权表示：whj – 上标k 表示训练对的序号，k =1, 2, …, n 6.4.1 多层感知器 • Hope: z t ,…,z t , for all samples: J (w) 1 c (t z )2  0 1 1 c c  j j 2 j 1 target t t t 1 j c z z z 1 j c y 1 output w hj y 1 y 2 y h hidden y n