人工神经网络BP算法简介及应用.docVIP

科 技 信息 2011年 第 3期 SCIENCE TECHNOLOGY INFORMATION 人 工 神 经网 络 是 模 仿 生 理 神 经网 络 的 结 构和 功 能 而 设计的 一 种 信息 处 理 系统 。 大 量 的 人 工 神 经 元 以 一 定 的 规 则 连接 成神 经网 络 , 神 经 元 之 间 的 连接 及 各 连接 权 值 的分 布 用 来 表 示 特 定 的 信息 。 神 经网 络 分 布 式 存 储 信息 , 具 有 很 高的 容 错 性 。 每 个 神 经 元 都 可 以 独 立 的 运 算 和 处 理 接收 到 的 信息 并 输 出 结 果 , 网 络 具 有 并 行 运 算 能 力 , 实 时性 非 常 强 。 神 经网 络 对 信息 的 处 理 具 有 自 组 织 、 自 学 习 的 特 点 , 便 于 联 想 、 综 合 和 推 广 。 神 经网 络 以 其 优 越 的性能 应 用 在 人 工 智 能 、 计 算 机 科 学 、 模式 识别 、 控 制 工程 、 信 号 处 理 、 联 想 记 忆 等 极 其 广 泛 的 领域 。 1986年 D.Rumelhart 和 J.McCelland [1]等 发 展 了 多 层 网 络 的 BP 算 法 , 使 BP 网 络成 为目 前 应 用 最 广 的 神 经网 络 。 1BP 网 络 原 理 及 学 习 方法 BP(BackPropagation 网 络 是 一 种 按 照 误 差 反 向 传 播 算 法 训 练 的 多 层 前 馈 神 经网 络 。 基于 BP 算 法的 二 层 网 络 结 构 如 图 1所 示 , 包 括 输 入 层 、 一 个 隐 层 和 输 出 层 , 三 者 都 是 由 神 经 元 组 成 的 。 输 入 层 各 神 经 元 负 责 接收 并 传 递 外 部 信息 ; 中 间层 负 责 信息 处 理 和 变 换 ; 输 出 层 向 外 界 输 出 信息 处 理 结 果 。 神 经网 络 工 作 时 , 信息从 输 入 层 经 隐 层 流 向 输 出 层 (信息正 向 传 播 , 若 现 行 输 出 与 期 望相 同 , 则 训 练 结 束 ; 否 则 , 误 差 反 向 进 入 网 络 (误 差 反 向 传 播 。 将 输 出 与 期 望 的 误 差 信 号 按 照 原 连 接 通 路 反 向 计 算 , 修 改 各 层 权 值 和 阈 值 , 逐 次 向 输 入 层 传 播 。 信息正 向 传 播 与 误 差 反 向 传 播 反复 交 替 , 网 络 得 到 了 记 忆 训 练 , 当 网 络 的 全 局 误 差 小 于 给 定 的 误 差 值 后 学 习 终 止 , 即 可 得 到 收 敛 的 网 络 和 相 应 稳 定 的 权 值 。 网 络 学 习 过 程 实 际 就 是 建 立 输 入 模式 到 输 出 模式的 一 个 映 射 , 也 就 是 建 立一 个 输 入 与 输 出 关 系 的数学模 型 : x i (t +1 =f i [u i (t +1 ](1 标准 的 BP 算 法 是 一 种 梯 度下 降 学 习算 法 , 其 权 值 的 修 正 是 沿 着 误 差 性能 函 数 梯 度 的 反 方 向 进 行 的 。 这 种 算 法 可 以 写 成 公 式 (2 的 形 式 : x k +1=xk -a 鄣 E k k (2 E k ≈ 1/s 2 s 2 i =1 Σ(t i 2-y i 2 (3 其 中 x k 为 第 k 次 迭 代 各 层 之 间 的 权 值 和 阈 值向 量 , E k 为 第 k 次 迭 代神 经网 络 的输 出 总误 差 , 鄣 E k /鄣 x k 为 第 k 次 迭 代总误 差 曲 面 的 梯 度 , a 为 学 习速 率 。 网 络 的 实 际 输 出 值 y j 与 要 求 的 目 标值 t j 由 公 式 (3 求 出 总误 差 , 带 入 公 式 (2 中 , 便 可 以 逐 次 修 正权 值 及 阈 值 , 并 使 总误 差 向 减 小 的方 向 变 化 , 直 到 达 到 要 求 的 误 差 性能 为 止 。 图 1两 层 BP 网 络神 经 模型 2BP 算 法 实 现 苹 果 颜 色 分 级 苹 果 表 面 颜色 是 衡 量 苹 果 品 质 的重 要 特 征 , 同 时 间 接 反 映 了 苹 果 的 成 熟 度 、 糖 度 、 水 分 含 量 等 内 部 品 质 。 国 内 外 的研究 者在 水 果 颜色 检 测 方 面 做 了很 多 工 作 。 Tao 等 利 用 色 度 特 征 统 计 识别 算 法 完 成 了 对 苹 果 、 土 豆 的