金融业人工智能应用风险研究报告.pdf

金融业人工智能应用风险研究报告

北京金融科技产业联盟

2025年1月

版权声明

本报告版权属于北京金融科技产业联盟，并受法律保护。转

载、编摘或利用其他方式使用本白皮书文字或观点的，应注明来

源。违反上述声明者，将被追究相关法律责任。

I

编制委员会

编委会成员：

聂丽琴苏建明蒋家堂叶红范皓陈芳

姚辉亚彭晋汪航史巍威张立文杨文俊

蒋宁

编写组成员：

程佩哲许啸陈天涵黄蓉艾毅程元鸿

金驰姜璐金昕李荣于雪松李昶

赵志永曹威张弛方宇伦许桐桐陆碧波

朱婧陆俊廖渊安迪张骏陈鹏飞

林杉王翰琛李建兴龙凡

编审：

黄本涛刘昌娟

参编单位：

北京金融股科技产业联盟秘书处、中国工商银行股份有限公

司、中央国债登记结算有限责任公司、中国银联股份有限公司、

深圳前海微众银行股份有限公司、蚂蚁科技集团股份有限公司、

中国邮政储蓄银行股份有限公司、深信服科技股份有限公司、中

国光大银行股份有限公司、国家开发银行、云南南天电子信息产

业股份有限公司、马上消费金融股份有限公司、中国农业银行股

份有限公司

I

目录

一、概述1

（一）研究背景1

（二）政策与标准1

（三）技术发展路线2

二、金融业人工智能安全风险框架5

（一）基础设施风险5

（二）数据风险8

（三）模型算法风险10

（四）应用风险13

（五）伦理风险15

（六）隐私风险17

（七）管理风险18

（八）大模型安全风险21

三、金融业人工智能安全防护框架24

（一）基础设施防护24

（二）数据防护26

（三）模型算法防护28

（四）应用防护31

（五）伦理防护33

（六）隐私防护34

（七）管理防护35

（八）大模型安全防护37

四、金融业人工智能风险防控案例40

（一）工商银行人工智能安全框架40

（二）蚂蚁集团大模型安全一体化解决方案40

（三）邮储银行人工智能安全技术体系41

五、总结与展望42

i

一、概述

（一）研究背景

随着金融行业数字化转型的快速发展，人工智能相关技术在

金融领域的应用场景日趋广泛，已涵盖了产品创新、客服营销、

业务运营及风险防控等多个业务场景，特别是大模型的出现，加

速了人工智能金融业应用的进程，与此同时深度伪造、对抗样本

等针对人工智能的新型攻击手法不断涌现，人工智能应用风险已

引起金融业的高度关注。

（二）政策与标准

针对人工智能应用风险，国内外均提出发展和安全并重、加

强监管和测评的核心思想，规范和保障人