原创力文档梯度下降法与反向传播七月算法2016年5月21日
主要内容?梯度下降法1.损失函数可视化2.最优化3.梯度下降?反向传播1.梯度与偏导2.链式法则3.直观理解4.Sigmoid例子5月深度学习班2/34julyedu
预备知识?两个重要函数?得分函数?损失函数?核心目标?找到最合适的参数w.?使得损失函数取值最小化。?也就是最优化的过程5月深度学习班3/34julyedu
损失函数可视化?损失函数往往定义在非常高维的空间?比如CIFAR-10的例子里一个线性分类器的权重矩阵W是10x3073维的，总共有3073
文档评论（0）