模糊联想记忆-西安电子科技大学电子工程学院.PPT

模糊联想记忆 路文 Outline 引言 模糊 Hebb FAMs 添加FAM规则 联想输出与清晰化 FAM系统结构 引言 Hebb假设 ：Donald O.Hebb 在《The Organization of Behavior》一书中提出：“当细胞A的轴突到细胞B的距离近到足够激励它，且反复地或持续地刺激B，那么在这两个细胞或一个细胞中将会发生某种增长过程或代谢反应，增加A对细胞B的刺激效果”。 1987年美国Bart Kosko教授提出了一种称为模糊联想记忆神经网络（Fuzzy Associative Memory——FAM，这种联想记忆神经网络是将模糊控制的规则隐含地分布在整个网络中，在神经网络的基础上通过学习训练产生模糊规则，一次模糊联想记忆就是一次模糊逻辑推理。 在模糊控制、知识推理和模式匹配等领域有着广泛的应用前景。 模糊 Hebb FAMs 模糊 Hebb FAMs 模糊 Hebb FAMs 模糊 Hebb FAMs 模糊 Hebb FAMs 模糊 Hebb FAMs 添加FAM规则 添加FAM规则 联想输出与清晰化 联想输出与清晰化 FAM系统结构 谢 谢 * 2006-11-27 西安电子科技大学影像处理系统实验室 西安电子科技大学影像处理系统实验室 经典的 Hebb 学习（作为一种非监督训练）有： 对于一对给定的双极值行向量（X,Y），神经网络要把他们对应起来用外积关系矩阵编码 西安电子科技大学影像处理系统实验室 一种用最小关系编码的模糊Hebb关系矩阵 上述法则可叫做模糊外积，或最小关系编码。 可以看出: 每列的元素是每个bj相对与A的最小值，每行是每个ai相对与B的最小值。 如果A中的某个元素比B中的所有元素都大，则M矩阵中的该行就是B行向量。 如果B中的某个元素比A中的所有元素都大，则M矩阵中的该列就是整个A向量的转置。这就是后面要提出的向量的高度H(A)。 西安电子科技大学影像处理系统实验室 ③ ，对任意的 ④ ，对任意的 ② ，当且仅当 ① ，当且仅当 如果 ，则有 用最小关系编码构造的模糊Hebb FAM进行联想记忆时其精度依赖于H(A)，H(B)，它们的关系在以下定理中体现： A是一个模糊集，令 把H(A)叫做模糊集A的高度。 A是一个模糊集，若H(A)=1，则称A是正则的。 西安电子科技大学影像处理系统实验室 相关积编码与相关最小编码的差别在于不取最小，而是一般的向量相乘运算。 西安电子科技大学影像处理系统实验室 由上计算可以看出，对于构造的M，对于一个输入向量 则： 这个FAM系统最大强度的响应输出B，若 这个FAM系统响应输出B的程度为0.3。 （0.24,0.12,0,12） 西安电子科技大学影像处理系统实验室 如果H(A)=1,则 A,B是非空的隶属度向量： 若 对任意的 对任意的 乘积关系双向FAM定理 如果H(B)=1,则 西安电子科技大学影像处理系统实验室 神经网络方法是将他们相加或取最大值。 但这种方案对模糊Hebb编码是失败的。 假定我们有m个FAM规则或联想(A1,B1),….,(Am,Bm),用模糊Hebb编码，可得到m个FAM矩阵M1,….,Mm。 当m增加时，该式逐渐变为等式，因为最大项都趋向于1，这就是说M将变成一个元素全部为1的矩阵，就失去了联想信息(Ak,Bk). 西安电子科技大学影像处理系统实验室 用模糊集的方法是将联想输出的向量作相加性处理，而不是将Mk作相加性处理，这里 这是通过对规则库中每个规则并行处理而得到的，所以这种方法要求分开储存m个联想(Ak,Bk)，或者说用每一个单独的前馈神经网络存储一个联想。这虽然消耗内存空间，但不会发生规则间的“撞车。用户可直接决定哪个规则对结论输出起多大作用。分开存储也提供了知识库的可调性，用户可增加或消除FAM结构的知识而不影响已存储的知识。 这种分开存储使一个模糊向量A并行激活所有FAM规则(以不同的程度)，若A只是部分地满足前件Ak，则结论Bk只是部分程度地被激活。 西安电子科技大学影像处理系统实验室 联想输出向量B是对每条规则所产生的向量 的加权和 这里的权重 非负．表示第K个FAM规则(Ak，Bk)的可信度或力度。 可通过自适应调节而产生。在实际当中，一般取 =…= ＝1 从原理上说，要求最后的联想输出是经过归一化处理的，这样可保证B的每个元素在单位区间内取值。 西安电