为什么你需要改进训练数据，如何改进？ .docVIP

为什么你需要改进训练数据，如何改进？ 图片来自 Lisha Li 　　Andrej Karpathy 在他的 Train AI 演讲中展示了这张胶片，我非常喜欢。这张胶片完美地揭示了深度学习在研究与生产间的区别。通常来说，学术论文的主要精力是放在开发新的、先进的模型上面，在数据集方面一般都是从公开的数据集取一部分使用。而相反，那些我所知道的想用深度学习技术做实际应用的开发者们，他们绝大部分的精力都花在了担心他们的训练数据上面。 　　有许多好的原因可以解释为什么那些研究员会将精力放在模型架构上，而对于那些想要在实际生产过程中运用机器学习的人来说，相关的指导材料就比较少。为了解决这个问题，我在此次会议上的演讲主题是「关于训练数据上不可以思议的效果」，并且我想在这篇 blog 中进一步说明为什么优化训练数据是如此重要，并给出一些实用的建议。 　　在我的工作中经常与许多研究员与生产团队有紧密的合作，而我之所以如此相信优化数据的魔力是因为我亲眼目睹了它们在构建模型时所发挥的作用以及所带来的巨大收益。对于大多数应用来说，能否使用深度学习的最大障碍是模型精度能否达到实际使用的要求，而据我所知，最快捷的提升精度的方式就是优化训练集。并且如果在部署过程中你还受限于例如时延或存储大小等因素，那么你可能需要在一个满足性能要求，经过折衷的较小模型架构上来提升模型精度。