浅谈模式识别导论(八).pdfVIP

模式识别导论 人工神经网络 在模式识别中的应用 武汉大学遥感信息工程学院 马洪超 模式识别导论 概述 模式识别和人工智能一开始就试图模拟人脑的功能，从现阶段来看， 虽然各种模式识别算法和系统具有部分人脑的功能，但总的来说，相差甚 远。人脑可以看作是由单个脑细胞组成的、巨大并行的信息处理系统。如 果将单个信息处理单元用算法来模拟，进尔将多个处理单元连接成一个巨 大并行的处理系统，就是人工神经网络的基本思想。 细胞体受外界刺激后，有兴奋和抑制两种状态，可以直观地将兴奋型 和抑制型理解为其作用和不起作用。 人工神经网络用器件或算法来模拟神经系统的某些机构和功能，一个 简单的神经元功能模型如下： 武汉大学遥感信息工程学院 马洪超 模式识别导论 x0 w0 n w1 net w x i i x1 ∑ f y i 1   y f net wn net x n 上式函数f可以是线性、非线性甚至是等价函数，注意和线性判别函数相比 较。神经元模型的确定仅仅确定了神经网络中各个个体的行为，但对整个网 络的影响，还要结合其它神经元来考虑，这需要考虑神经元之间的连接方式， 即拓朴结构 武汉大学遥感信息工程学院 马洪超 模式识别导论 —前向网络 —输出向输入反馈的前向网络 —层内互连前向网络 拓朴结构图 —全户联反馈网络 见武大教材 —局部互连反馈网络 连接强度w i 是可以修改的，如果w i ＝0 ，则可以视为 删除该元。根据经验来修改连接强度为学习规则。 神经网络中，最基本的学习规则为Hebbian规则，其它 都 可 以 看 做 是 它 的 变 种 ， 其 基 本 思 想 是 ： 如果一个单元u 从另一个单元u 处接收输入，而且两者 i j 都是兴奋的，那么从u 到u 的权w 应该增强，用公式： j i i j 武汉大学遥感信息工程学院 马洪超 模式识别导论     w g a (t), t (t) h o (t), w ij i i j ij 其中t (t)是由导师给定的标准值 i 将上式简化：没有导师给定的标准范例值，且函数g和h只 是和它们的第一个参数相关，就有最简单的形式： w a o ij i j 其中代表学习速率