《总结（二毛）－神经计算科学》.pdf

阮晓钢 《人工智能之路——神经计算科学——在细胞的水平上模拟脑功能》 国防工业出版社 2006 年5 月第一版第一次印刷 1. 神经系统的概念模型 定义4.7 一个N 阶神经计算模型是一个由N 个人工神经元或节点构成的六元组： ncm （N ) ＝ VG , AG , IF, OF, WA, OA 其中： （1 ） V { | k = 1,2 …, N(N 0)}：人工神经元或节点集合； G ＝vk （2 ） A ＝(r ) ：联结关系矩阵，r ∈R （1 ≤i, j ≤N ）是v 联结至v 的联结强度值； G ij N×N ij i j （3 ） IF ∈VG ：输入域（Input Field）； （4 ） OF ∈VG ：输出域（Output Field）； （5 ） WA ：IF→OF：工作算法（Working Algorithm ）； （6 ） OA：VG →VG ：组织算法（Organizing Algorithm ）。 2. Hebb 学习律 2.1 Hebb 突触 2.2 经典Hebb 学习律 （具有开创性） Hebb 猜想最易于理解的表达是：突触前神经元与突触后神经元总是处于兴奋状态，则 其联结效率将得到增强。 基于此，ncm （N ) 中的突触前神经元v 与其突触后神经元v 之间的联结系数r 的修饰或修 i j ij 正可表达为如下数学公式： ( ) ( ) ( ) ∆rij t ＝δOi t Oj t (δ 0) (6.1a) r ( ) ( ) ( ) ij t + 1 = rij t + ∆rij t (6.1b) 与此对应的是具有突触抑制的Hebb 学习律：若两个神经元总是处于相同的状态，则其 联结效率将得到增强；若两个神经元总是处于相反的状态，则其联结效率将将会减弱。 形式化数学描述如下： � � ∆r ( ) ( ) ( ) ij t ＝δ(Oi t −Oi ) (Oj t −Oj ) (δ 0) (6.10a) ( ) ( ) ( ) rij t + 1 = rij t + ∆rij t (6.10b) 其中： t 为离散时刻； δ为学习率或学习因子（Learning Factor）； ( ) ∆rij t 为联结效率rij 在t 时刻的修正值； O 为神经元v 的输出值，此处其要么为0 （表示抑制），要么为1 （表示兴奋），后 j i 面我们会看到，其取值为更有意思。 � � O 、O 分别表示突触前神经元v 与突触后神经元v 的输出均值； i j i j 2.3 其他（用得较少） （a ）具有遗忘机制的Hebb 学习律；