神经网络 配套ppt Ch3_pres.ppt

3 * 一个说明性实例 苹果/香蕉 分类器 分类器 传感器 神经网络 标准向量模式 标准香蕉模式 标准苹果模式 形状: {1 : 圆形; -1 : 非圆形} 质地: {1 : 光滑; -1 : 粗糙} 重量: {1 : 大于1磅 ; -1 :小于1磅} 度量向量 形状 重量 质地 感知机(Perceptron) 两输入的情况 判定边界 p1 + 2p2 – 2 = 0 b=-2 苹果/香蕉 例子 能够区分苹果和香蕉的判定边界可以是： 所以得：W=[-1,0,0], b=0。 权向量应该与判定边界正交，并且指向可以生成输出为１的向量的方向．偏置值决定了判定边界的位置。 如果输入是香蕉时，希望感知机输出为１；是苹果时为-1．由此可得： 测试感知机网络 香蕉: 苹果: “粗糙”香蕉: 海明网络 海明距离：两个二进制向量中不同元素的个数。 海明网：　网络输出为非零值的神经元对应的标准模 式与输入模式的海明距离最近。 前馈层 前馈层用于实现每个标准模式和输入模式之间的相关检测．可用标准模式设置权矩阵的行．用于香蕉/苹果例子，有： 反馈（递归）层 海明网操作 输入(粗糙香蕉) 第一层 海明网操作 第二层 选择第一个神经元所代表的标准模式（香蕉）作为匹配结果 Hopfield 网络 苹果/香蕉问题 测试: “粗糙” 香蕉 (香蕉) 小结 感知机 前馈网络 线性判定边界 一个神经元给出判定结果 海明网络 竞争网络 第一层 – 模式匹配 (内积) 第二层 – 竞争(胜者决定一切) 神经元数 = 标准模式数 Hopfield网络 动态联想网络 网络输出收敛于一个标准模式 神经元数 = 标准模式中元素个数 3 *