影像解译中的深度学习可解释性分析方法.docx

算法的可解释性一直是机器学习领域的一个重要研究问题。可解释性研究的目的在于让人类能理解算法的运行机理，以及做出某种推断的原因。如果一个算法具备良好的可解释性，不仅有利于开发者改进算法，增强使用者对该算法的信任度，同时可进一步在使用中确定是否需要人机交互以避免错误的决策。 近年来，随着深度学习对大量研究问题智能化的推进，可解释人工智能系统(XAI)受到越来越多的重视。由于依赖大量数据误差后向传播而实现参数优化，深度学习模型通常被比喻为“黑箱”，即难以用人类思维直接理解模型的具体含义和行为。事实上，在机器学习领域，复杂的算法(如随机森林)虽然通常比简单的算法(如线性回归)在较难的问题上有更好的表现