[数学]D人工神经网络4B.ppt

ARTⅠ网络学习算法的基本流程 ARTⅠ网络学习算法的基本流程 　　(1)特征表示场F1数学模型 vi si qi xi zi pi ui f(.) bf(.) a c F2 F1 zij zji ρ yj 　　F1的中层和上层也构成一个闭合正反馈回路，其中标记为pi的神经元接受来自中层的信号ui和来自F2场的信号，这个回路包括的运算是： 　　式(4.27)中的e为很小的正实数，相对于‖P‖可以忽略不计。 (4.27) (4.26) 　　式(4.26)中的第二项是F2场对神经元pi的输入，zji是自上而下的LTM系数。 4.4.3.2 网络的数学模型与学习算法 4.4.3 ARTⅡ型网络 4.4自适应共振理论 　　 (2)类别表示场F2的数学模型 vi si qi xi zi pi ui f(.) bf(.) a c F2 F1 zij zji ρ yj 　　类别表示场F2的作用是通过竞争确定最大激活节点，该节点的权向量与输入模式有最大的相似性。设F2场中第j个节点的输人为： 　　 F2按下式进行选择： j=M+1, …, N (4.28) j=M+1, …, N (4.29) 4.4.3.2 网络的数学模型与学习算法 4.4.3 ARTⅡ型网络 4.4自适应共振理论 　　当选择节点j*为最大激活时，其余节点处于抑制状态，有 (4.30) 　　 (2)类别表示场F2的数学模型 vi si qi xi zi pi ui f(.) bf(.) a c F2 F1 zij zji ρ yj 　　式中d为自上而下(F2→F1)的反馈参数，0＜d＜1。由上式，式(4.26)可简化为 　　输入模式X，经过F1场处理后，其输出P是去噪后的归一化输入U和某一类模式中心Zj的线性组合。 (4.31) 4.4.3.2 网络的数学模型与学习算法 4.4.3 ARTⅡ型网络 4.4自适应共振理论 　　P与场间权值zji和zij运算后，输入到F2场进行竞争，场间权值zji和zij是于模式中心密切相关的一些向量。 　　Tj的值越大，则表示输入模式与存储模式间的相似度也越高，反之表示相似度低。这种相似度的表示也正是两向量最小距离的一种体现。 　　 (3)权值调整规则—LTM方程 vi si qi xi zi pi ui f(.) bf(.) a c F2 F1 zij zji ρ yj 　　对长期记忆LTM权值的调整，按以下两个LTM方程进行。 　　自上而下(F2→F1)LTM方程为： 　　自上而下(F1→F2)LTM方程为： 　　当F2确定选择j*节点后，对于j ≠j*，有 (4.32) (4.33) 4.4.3.2 网络的数学模型与学习算法 4.4.3 ARTⅡ型网络 4.4自适应共振理论 　　 (3)权值调整规则—LTM方程 vi si qi xi zi pi ui f(.) bf(.) a c F2 F1 zij zji ρ yj 　　当j = j*时，则有 　　初始化时，可取 i = 1,2,…,M；j=M+1,M+2,…,N。 d=0.9。 　　权值调整公式也可写成以下形式： (4.34) (4.35) (4.36) (4.37) 4.4.3.2 网络的数学模型与学习算法 4.4.3 ARTⅡ型网络 4.4自适应共振理论 　　 (4)取向子系统 　　图4.27中左侧为取向于系统，其功能是根据F1的短期记忆模式与激活的长期记忆模式之间的匹配度决定F2的重置。匹配度定义为 　　式中e可忽略。 　　实心圆A的输出为匹配度的模，用‖R‖表示。设警戒门限为ρ，0ρ1，当‖R‖ ＞ρ时，选中该类，否则，取向子系统需对F2重置。 i=1,2,…,M (4.38) vi si qi xi zi pi ui f(.) bf(.) a c F2 F1 zij zji ρ yj ri A 4.4.3.2 网络的数学模型与学习算法 4.4.3 ARTⅡ型网络 4.4自适应共振理论 参数选择 M，N：根据具体任务设定; a：从F1的第二层到第一层反馈信号的放大系数，a＞1; b：从F1的第三层到第二层反损信号的放大系数，b＞1； d：学习率，0d1 e：弱归一化参数，0≤e＜1 θ：抗噪参数，0≤θ＜1，θ越大网络抗噪能力越强，但会丢失微弱信号，θ=0时无抗噪能力； ρ：警戒门限值，ρ越大网络对输入信号的分类越精细，0＜ρ＜1； c： 送往重置模块时pi的加权系数，应满足约束不等式cd/(1-d)≤1。 vi si qi xi zi pi ui f(.) bf(.) a c F2 F1 zij zji ρ yj ri A 4.4.3 ARTⅡ型网络 4.4自适应共振理论 4.4.4 ARTⅡ型网络的应用 4.4