(9.7)--9.7 深度学习引论(二).pptVIP

IntroductiontoDeepLearning深度学习引论（二）

CHAPTERFOUR网络正则化Regularization

四、网络正则化ReLU激活函数0000前向传递中部分神经元输出为0???

四、网络正则化ReLU的作用相当于简化了网络结构减小了过拟合风险???

四、网络正则化Dropout策略训练：训练过程中以概率p随机丢弃部分权重???

四、网络正则化Dropout的效果训练：每个批次采用Dropout简化后的网络进行训练下一个训练批次，重新Dropout???

四、网络正则化Dropout的效果训练：???每个批次采用Dropout简化后的网络进行训练下一个训练批次，重新Dropout

四、网络正则化Dropout的效果训练：???每个批次采用Dropout简化后的网络进行训练下一个训练批次，重新Dropout

四、网络正则化Dropout策略?测试：不采用Dropout????

四、网络正则化Dropout的解释????????????????没有dropout训练时的权重???测试：

四、网络正则化Dropout的解释使网络“瘦身”，减少过拟合风险Dropout是一种集成学习，每次采样一个子网络可以近似看作是集成了不同网络的模型组合……??

四、网络正则化批标准化——BN(BatchNormalization)????????元素级乘法

四、网络