多层感知器模型互反奇异性区域学习动态的理论分析.pdfVIP

第31卷第2期 控制理论与应用 Vbl．3lNo．2 2014年2月 Control Feb．2014 TheoryApplications DOI：10．7641／CTA．2014．30600 多层感知器模型互反奇异性区域学习动态的理论分析 郭伟立1，魏海坤H，赵军圣1，一，张侃健1 (1．东南大学自动化学院复杂工程系统测量与控制教育部重点实验室，江苏南京210096 2．聊城大学数学科学学院，山东聊城252059) 摘要：多层感知器神经网络(MLPs)的学习过程经常发生一些奇异性行为，容易陷入平坦区，这都和MLPs的参数 空间中存在的奇异性区域有直接关系．当MLPs的两个隐节点的权值接近互反时，置换对称性会导致学习困难．对 MLPs的互反奇异性区域附近的学习动态进行分析．本文首先得到了平均学习方程的解析表达式