AI数据治理安全审计.pdf

生成式人工智能安全审计工作介绍

2025.4.18

1生成式AI治理现状

2生成式AI风险挑战及应对思路

目录

3生成式AI治理工作基础

4已开展工作及展望

AI模型市场概述

AI模型生态图谱From：IDC

AI模型技术生态日益繁荣，多个服务平台供个人用户和商业应用使用，机遇风险并存。

AI模型发展现状

政策驱动多方押注资源投入应用突破

近年来，我国始终高度重视人工智各大科技巨头、科研院所、初创许多企业和研究机构投入大量资源，大模型日益增高的创业门槛促使创

能发展时机和顶层设计，发布多项公司都纷纷下场，部署自己的大开发出拥有数十亿、甚至百亿级别业公司和团队另辟蹊径，挖掘出更

人工智能支持政策。2024年《政府模型。参数的大模型。多蕴藏在应用层面的机会。

工作报告》中提出开展“人工智能+”截止2024年4月底，国内共计推国内庞大的市场和用户基础，更容同时，得益于现有大模型的发展，

行动。当前，北京、深圳、杭州、出了305个大模型。而截至5月16易获取大量的用户数据和应用场景，又降低了垂直领域的创业门槛，催

成都、福建、安徽、上海、广东等日，只有约140个大模型完成生能为大模型的应用提供丰富的数据生了众多可行性强，便于落地的应

地均发布了关于AI大模型的相关政成式人工智能服务备案，占发布资源。用产品。

策。总量的45.9%。

AI模型安全治理现状

AI意识形态安全风险探析

1AI模型成为认知的基础设施4聊天对话模式提高了信息传播的隐匿性

价值观与技术深度互嵌带来意识形使用门槛降低加剧虚假信息制造与传播

25

态风险风险

生成式大模型算法加剧人类社会的基于深度伪造的虚假信息传播增加了辨

36

刻板印象与偏见识难度

图：隐私泄露样例图：社会偏见输出样例

AI模型安全治理现状

所面临的典型安全风险

风险范围示例

数据泄露（如AI对话模型数据集因服务器漏洞被窃致用户机密文件流出）、篡改（改变语义流向让模型产出误导

数据安全风险

内容）、投毒（掺杂错误知识片段干扰模型学习）

对抗样本攻击（如微调输入语句便能诱使模型生成错误信息）、漏洞利用（可利用其突破交互限制获取内部数据或

安全性风险

操控输出）

法律风险版权侵权（如训练素材版权难厘清，抓取网文、新闻未授权使用面临诉讼）

隐私风险过度收集（如过度采集用户对话细节，包括敏感身份信息）

伦理道德风险歧视性输出（如输出含性别、地域偏见内容）、恶意利用危害社会（如AI生成假新闻、诈骗话术）

AI