生成式人工智能大模型的安全挑战与治理路径研究.pdfVIP



E0

生成式人工智能大模型的安全挑战与治理路径研究

徐明

(中国电科太极计算机股份有限公司,北京100012)

摘要:生成式人工智能(GenerativeArtificialIntelligence,GAI)大模型深刻地影响着信息传播、内容创作

和社会互动等领域,也带来数据隐私泄露、虚假内容生成和知识产权保护等一系列安全挑战。通过探究

GAI在当前阶段的安全风险和相应的治理策略,以期为该技术的持续健康发展提供借鉴。首先分析了

GAI技术发展引致的各种安全挑战。其次探讨了GAI典型安全问题,包括数据安全和隐私、模型滥用、

算法稳定性以及GAI技术在文本生成、图像识别等方面存在可被恶意攻击的成因。最后探讨建立多层

次的GAI安全治理框架,包括技术层、组织层和社会层以及安全可控可靠的治理策略和具体的治理路

径,通过政府监管部门、人工智能企业、学术界以及公众等多方协同治理,提高全社会对GAI安全的认

知和应对能力。

关键词:生成式人工智能;数据隐私;虚假内容监管;技术治理路径;安全评价体系

中图分类号:R052;R318;B82-057文献标志码:A

引用格式:徐明.生成式人工智能大模型的安全挑战与治理路径研究[J].信息通信技术与政策,

2025,51(1):10-19.

DOI:10.12267/j.issn.2096-5931.2025.01.002

0引言可能对社会安全稳定构成严重威胁。

面对AI大模型所带来的安全风险,亟需从技术创

人工智能(ArtificialIntelligence,AI)技术的发展新、伦理规范、法律法规等多个层面开展治理。目前,

已经成为当前科技领域备受关注的热点之一,其中