（共18页PPT）初中方法12深度学习的挑战可解释性讲义.pptx

第七章：深度学习方法《人工智能通识》初中版

制/秦汉学校第七节：深度学习的挑战：可解释性《人工智能通识》初中版

学习目标理解什么是神经网络的可解释性及其重要性。探讨可解释性缺失的原因和后果。学习局部和全局解释方法的基本概念和应用。讨论可解释性的未来研究方向。

一、什么是神经网络的可解释性？二、局部解释方法三、全局解释方法四、总结目录

黑盒之谜

视频来源：为什么说当下AI是个黑盒_哔哩哔哩_bilibili

深度学习面对的另一个挑战是可解释性缺失问题，或称为“黑盒之谜”：你可以看到一个盒子的输出结果，但看不到里边的处理过程。可解释性的缺失不仅阻碍了科研人员对神经网络工作机制的深入理解，也限制