人工智能-卷积神经网络(CNN).pptVIP

IT在线教育领导品牌 EDUCATION TO CREATE A BRIGHT FUTURE 卷积神经网络可视化理解 * IT在线教育领导品牌 EDUCATION TO CREATE A BRIGHT FUTURE 卷积神经网络优缺点 优点 共享卷积核(共享参数)，对高维数据的处理没有压力 无需选择特征属性，只要训练好权重，即可得到特征值 深层次的网络抽取图像信息比较丰富，表达效果好 缺点 需要调参，需要大量样本，训练迭代次数比较多，最好使用GPU训练 物理含义不明确，从每层输出中很难看出含义来 * IT在线教育领导品牌 EDUCATION TO CREATE A BRIGHT FUTURE 在卷积神经网络中，可以看到神经元之间的连接是通过权重w以及偏置b实现的。 在具体的神经网络之前，我们还有一个任务需要做，那就是初始化参数 权重的初始化 一般方式：很小的随机数(对于多层深度神经网络，太小的值会导致回传的梯度非常小)， 一般随机数是服从均值为0，方差未知(建议：2/n, n为权重数量)的高斯分布随机数列。 错误方式：全部初始化为0，全部设置为0，在反向传播的时候是一样的梯度值，那么这 个网络的权重是没有办法差异化的，也就没有办法学习到东西。 偏置项的初始化 一般直接设置为0，在存在ReLU激活函数的网络中，也可以考虑设置为一个很小的数字 * 卷积神经网络-参数初始化 IT在线教育