机器学习常用的可解释方法-慕星星.pdfVIP

ThenameoftheDepartmentBeijingForestStudio

北京理工大学信息系统及安全对抗实验中心部门名称

机器学习常用的可解释方法

慕星星硕士研究生

2020年10月25日

内容提要

•背景简介

•基本概念

•算法原理

•优劣分析

•应用介绍

•参考文献

2

预期收获

•预期收获

–1.了解机器学习可解释性的基本概念

–2.了解机器学习可解释性方法的分类

–3.了解常用的机器学习可解释性方法的基本原理和应用（规则提取、LIME和

SHAP）

3

背景简介

•机器学习的应用

金融领域医疗领域

4

法律领域

背景概念

•黑盒问题

–黑盒系统自身可能存在着一些主观偏见

–黑盒系统抵御攻击的能力差

5

基本概念

•机器学习可解释性

–可解释性：可解释性是人们能够理解模型决策原因的程度；另一种定义：可解释

性是指人们能够一致地预测模型结果的程度。

线性回归

选择可解决策树

建模前

释的模型

规则集

机器学习

可解释性

规则提取

全局可解

释性

建模后SHAP

局部可解

释性

LIME

6

基本概念

•可