基于XAI的循环神经网络可解释性探究.docxVIP

本报告由中信建投证券股份有限公司在中华人民共和国（仅为本报告目的，不包括香港、澳门、台湾）提供。在遵守适用的法律法规情况下，本报告亦可能由中信建投（国际）证券有限公司在香港提供。同时请务必阅读正文之后的免责条款和声明。

证券研究报告·金融工程深度

金融工程研究基于XAI的循环神经网络可解释性探究

金融工程研究

核心观点

陈升锐chenshengrui@SAC编号：S1440519040002姚紫薇yaoziwei@SAC编号:S1440524040001王西之wangxizhi@SAC编号：S1440522070003发布日期：2024年04月13日探讨如何利用XAI解释模型预测

陈升锐

chenshengrui@

SAC编号：S1440519040002

姚紫薇

yaoziwei@

SAC编号:S1440524040001

王西之

wangxizhi@

SAC编号：S1440522070003

发布日期：2024年04月13日

模型可解释性

市场表现在众多机器学习模型中，深度学习模型准确性高但透明度低，XAI工具有助于拓宽“准确性-可解释性”的边界。落实到理解层面，主要途径有局部理解和自我解释，分别对应事后方法和事前方法。两类方法各有优劣，事后方法易用性强但可信度低，事前方法透明度高但实施成本大，导致两者适用于不同场景。

市场表现

5%

5% 0% -5%-10%-15%

2022/7/42022/8/42022/9/42022/10/42022/11/42022/12/42023/1/42023/2/42023/3/42023/4/42023/5/42023/6/4 国债指数上证指数选择四种代表性解释方法，并加以改造来适配数据形式和网络结构。TIG方法的核心是梯度值，以积分梯度代替单点梯度保证数值稳健。TOCC方法的核心是特征扰动，遮挡局部特征来比较预测值差异。TSHAP方法的核心是夏普值和代理模型，利用线性解释模型求解特征的边际贡献。TATT方法的核心是结构拓展

2022/7/4

2022/8/4

2022/9/4

2022/10/4

2022/11/4

2022/12/4

2023/1/4

2023/2/4

2023/3/4

2023/4/4

2023/5/4

2023/6/4

国债指数上证指数

相关研究报告预测阶段的解释结果

相关研究报告

【中信建投金融产品】：基于时序神经网络的选股模型初探【中信建投金融产品】：基于循环神经网络的选股模型改进【中信建投金融产品】：基于循环神经网络的选股模型初探2023-12-082023-08-31选择TIG、TOCC和TSHAP这三类事后方法，观察样本和特征对模型预测的影响

【中信建投金融产品】：基于时序神经网络的选股模型初探

【中信建投金融产品】：基于循环神经网络的选股模型改进

【中信建投金融产品】：基于循环神经网络的选股模型初探

2023-12-08

2023-08-31

2023-07-02训练阶段的解释结果

2023-07-02

选择TATT这类事前方法，用于模型设定和特征对模型预测的影响。从解释结果来看，模型受随机种子影响有限；模型受循环单元结构的局部影响；适中学习率利于模型学习；特征集间的组合搭配可识别冗余特征；近期模型较早期模型出现模式突变。

金融工程研究

金融工程研究

金融工程深度报告

请务必阅读正文之后的免责条款和声明。

1

目录

一、前言 2

1.1、循环神经网络可解释性概述 2

1.2、可解释人工智能简介 2

二、模型可解释性思路 3

2.1、模型透明度层级 3

2.2、解释模型的途径 3

2.3、循环神经网络可解释性的思路 4

三、模型可解释性方法 5

3.1、解释方法简介 5

3.2、TIG方法 5

3.3、TOCC方法 6

3.4、TSHAP方法 6

3.5、TATT方法 7

四、模型可解释性测试 8

4.1、数据、模型与方法设定 8

4.2、可解释性分析（预测阶段） 8

4.3、可解释性分析（训练阶段） 11

五、总结 14

六、参考文献 14

图表目录

图表1：“准确性-可解释性”边界示意图 2

图表