深度学习 (3)完整版.docVIP

敏感性 Sensitivity 又称真阳性率，就是发病之后，你的诊断方法对疾病的敏感程度（识别能力）。 敏感性越高，漏诊概率越低。 特异性 Specificity 特异性又称真阴性率，不发病（我们这里称之为健康）的特征是有别于发病的特征的，我们利用这些差异避免误诊，那么诊断标准对于这些差异利用的如何就用特异性来表示。 特异性越高，确诊概率越高。 train是训练集，val是验证集，test是测试集。train是网络模型在训练的时候用的，而val是网络模型在训练过程中测试用的，如楼上所说，val是不影响训练的。在训练的时候可以得到train和val这两个数据集的误差率，利用这个误差率可以绘制出学习曲线，通过观察学习曲线，你可以发现一些网络模型的问题，然后再根据这些问题去调整网络参数。 test就是网络模型训练完毕测试用的。 你要知道val是validation的简称。 training dataset 和 validation dataset都是在训练的时候起作用。而因为validation数据集和training没有交集，所以这部分数据对最终训练出的模型没有贡献。 validation的主要作用是来验证是否过拟合、以及用来调节训练参数等。? 比如你训练0-10000次迭代过程中，train和validation的loss都是不断降低，但是从10000-20000过程中train loss不断降低， validation的loss不降反升。那么就证明继续训练下去，模型只是对training dataset这部分拟合的特别好，但是泛化能力很差。所以与其选取20000次的结果，不如选择10000次的结果。这个过程的名字叫做 Early Stop， validation数据在此过程中必不可少。? 如果你去跑caffe自带的训练demo，你会用到train_val.prototxt，这里面的val其实就是validation。而网络输入的TEST层，其实就是validation，而不是test。你可以通过观察validation的loss和train的loss定下你需要的模型。但是为什么现在很多人都不用validation了呢？ 我的理解是现在模型中防止过拟合的机制已经比较完善了，Dropout\BN等做的很好了。而且很多时候大家都用原来的模型进行fine tune，也比从头开始更难过拟合。所以大家一般都定一个训练迭代次数，直接取最后的模型来测试。