算法的实现-电子与信息学报.pdfVIP

第 卷 第 期 电 子 与 信 息 学 报 , 年 月 〕 的是, 神经 网络结构 的设计 目前基本上还 依赖 于人 的经验 , 尚没有一个 系统 的方法来设计一 个 。 适 当 的 网络 结构 人 动 网络 , 多 用 测 的删 除 传统上 们在 自 设计 结构 时 采 探 性 算法 或构造算法 。 目 但是这样 的探测方法 既不能避免 算法 的 固有不足 特定 问题 的的网络结构难 以确 定及 网络 训练慢且经常 陷于局部收敛 , 也必将使训练 出的结果 网络 的优劣依赖于具体 的探测过程 , 。 并且一旦 当前探测过程 失败, 目前得到 的 中间结果也不能继续沿用 准 最优 网络结构 的设计可 以表示 为结构空 间的搜索 问题 , 其 中每个点代表一种结构 由 于这样 的结构 空 间具有规模大, 不可微 , 复杂度高 以及 多模态 的特 点 阁 , 使得传统 的搜索方法 。 很 找到 最 、 划和 难 准 优 的结构 而进化算法 包括遗传算法 进化规 进化策略等 是一类鲁棒性 、 、 很 强 的 并行 的 全局搜 索 的进化方法, 比删 除算法或构造算法更适于 网络 的结构设计 问题 , 。 近年来受到 了广泛 的重视和研究 一 本文在