一种无导数优化方法及其应用-张楚珩的仓库.PDFVIP

一种无导数优化方法及其应用 南京大学本科毕业论文答辩 指导老师：宋凤麒教授 答辩人：张楚珩 南京大学物理学院 答辩日期：二零一六年六月二 日 概要 §优化方法简介 §一种无导数优化方法——Racos §Racos在光学器件设计上的应用 §Racos在神经网络训练上的应用 优化方法简介 §优化问题具有形式 §优化问题具有广泛的应用前景 §优化方法用于解决优化问题 优化方法简介 §根据在优化过程中是否使用导数可以分为基 于导数的优化方法和无导数优化方法 基于导数的优化方法 无导数优化方法 优点 效率高 应用于导数难获取的情形 光学器件设计 避免导数误导，跳出局部极小 神经网络训练 缺点 有时候导数信息不可获得 效率较基于导数的方法低 或者获取成本很高 容易陷入局部极小 一种无导数优化方法——Racos 主要思想： §随机采点 §区分好坏 §估计函数 §针对采样