5.22datawhaleAI可解释性与推理分享.pptxVIP

2026.5.22

AI+X碰头会

AI可解释性与AI学习因果/推理

1.推理王国那些事

推理王国前传框架：从规则到模式，从离散到连续

表达世界：布尔代数

（离散化）

无人机需获取环境信息

无人机需采集大量图像

从离散到连续

从规则到模式

用向量空间表示特征

描述世界：计算复杂性

（NP完全性）

描述世界：可计算理论

（停机问题）

方法论：近似算法设计

（启发式算法）

常见算法

（DP、贪心、搜索）

推理王国上卷1-6章框架：推理与统计学习之区分

热力学第二定律

（生命体需要预测）

无人机需获取环境信息

无人机需采集大量图像

捷径学习（利用虚假相关性）

例子：奶牛与草地

经验风险最小化假设

训练与测试数据来自同分布

推理的必要性

（推理也会消耗能量）

符号主义尝试

（知识获取瓶颈）

计算复杂度问题

（7-13章）

向量空间表示学习

（分布语义假设）

2.AI可解释性的背景与发展历程

背景与发展历史

深度学习是最强大却是黑箱的机器学习技术

无人机需采集大量图像

神经网络能超越人类的表现完成广泛任务

基于试错

而非第一性原理

对神经网络理解

非常原始

大模型与扩散模型时代

该何去何从？

起源：神经元与感知机

机器学习最早理论问题：

表示能力（模型表示什么函数）

随后转向从有限样本泛化：

如统计、计算/PAC学习理论

统计物理也为平均情况

给出了令人满意的理论

神经网络复杂、