2025年金融业人工智能应用风险研究报告.pdf

金融业人工智能应用风险研究报告

2024企业信息安全峰会大会以“直面信息安全挑战，创造最佳实践”为主题，聚焦企业信息安全技术与实践等热点话题，致力于推进企业信息安全体系建设，加强企业信息安全管理，助推企业信息安全生态圈的健康发展。

北京金融科技产业联盟

2025年1月

版权声明

本报告版权属于北京金融科技产业联盟，并受法律保护。转

载、编摘或利用其他方式使用本白皮书文字或观点的，应注明来

源。违反上述声明者，将被追究相关法律责任。

2024企业信息安全峰会大会以“直面信息安全挑战，创造最佳实践”为主题，聚焦企业信息安全技术与实践等热点话题，致力于推进企业信息安全体系建设，加强企业信息安全管理，助推企业信息安全生态圈的健康发展。

I

编制委员会

编委会成员：

聂丽琴苏建明蒋家堂叶红范皓陈芳

姚辉亚彭晋汪航史巍威张立文杨文俊

蒋宁

编写组成员：

程佩哲许啸陈天涵黄蓉艾毅程元鸿

金驰姜璐金昕李荣于雪松李昶

赵志永曹威张弛方宇伦许桐桐陆碧波

朱婧陆俊廖渊安迪张骏陈鹏飞

林杉王翰琛李建兴龙凡

编审：

2024企业信息安全峰会大会以“直面信息安全挑战，创造最佳实践”为主题，聚焦企业信息安全技术与实践等热点话题，致力于推进企业信息安全体系建设，加强企业信息安全管理，助推企业信息安全生态圈的健康发展。

黄本涛刘昌娟

参编单位：

北京金融股科技产业联盟秘书处、中国工商银行股份有限公

司、中央国债登记结算有限责任公司、中国银联股份有限公司、

深圳前海微众银行股份有限公司、蚂蚁科技集团股份有限公司、

中国邮政储蓄银行股份有限公司、深信服科技股份有限公司、中

国光大银行股份有限公司、国家开发银行、云南南天电子信息产

业股份有限公司、马上消费金融股份有限公司、中国农业银行股

份有限公司

I

目录

一、概述1

（一）研究背景1

（二）政策与标准1

（三）技术发展路线2

二、金融业人工智能安全风险框架5

（一）基础设施风险5

（二）数据风险8

（三）模型算法风险10

（四）应用风险13

（五）伦理风险15

（六）隐私风险17

（七）管理风险18

（八）大模型安全风险21

三、金融业人工智能安全防护框架24

（一）基础设施防护24

（二）数据防护26

2024企业信息安全峰会大会以“直面信息安全挑战，创造最佳实践”为主题，聚焦企业信息安全技术与实践等热点话题，致力于推进企业信息安全体系建设，加强企业信息安全管理，助推企业信息安全生态圈的健康发展。

（三）模型算法防护28

（四）应用防护31

（五）伦理防护33

（六）隐私防护34