网络安全视角下的生成式人工智能算法安全性研究.pdfVIP

SpecialTopic本期专题

文献引用格式：杨廷章.网络安全视角下的生成式人工智能算法安全性研究[J].信息安全与通信保密,

2025(3):39-45.

YANGTingzhang.ResearchontheSecurityofGenerativeAIAlgorithmsfromaCyber

SecurityPerspective[J].InformationSecurityandCommunicationsPrivacy,2025(3):39-45.

网络安全视角下的生成式人工智能

算法安全性研究*

杨廷章1,2

（1.重庆巴渝科技创新中心有限公司，重庆401331；2.贵州财经大学，贵州贵阳550025）

摘要：随着GANs、Transformer、AdversarialTraining等生成式AI技术的迅猛发展，AI技

术在创意生成、数据增强等领域展现出巨大潜力，但其安全性问题也日益凸显。聚焦于网络

安全，深入探讨生成式AI算法的安全性研究，系统地分析生成式AI算法在数据安全、社

会风险、法律风险、伦理风险、知产保护等方面面临的风险，并提出相应的安全防护策略与

检测机制。通过理论探讨与实证分析，为提升生成式AI算法在网络空间中的安全性提供了

理论依据与实践参考，促进技术健康发展，维护网络生态安全。

关键词：生成式人工智能算法；网络安全；社会风险；法律风险；伦理风险；知识产权

中图分类号：TP181文献标志码：A文章编号：1009-8054(2025)03-0039-07

ResearchontheSecurityofGenerativeAIAlgorithmsfroma

CyberSecurityPerspective

YANGTingzhang1,2

（1.ChongqingBayuScienceandTechnologyInnovationCenterCo.,Ltd.,Chongqing401331,China;

2.GuizhouUniversityofFinanceandEconomics,GuiyangGuizhou550025,China）

Abstract:WiththerapiddevelopmentofgenerativeAItechnologiessuchasGANs,Transformer,

AdversarialTraining,etc.,AItechnologyshowsgreatpotentialincreativegeneration,dataenhancement

andotherfields,butitssecurityissuesarealsobecomingincreasinglyprominent.Focusingoncyber

*收稿日期：2024-07-24；修回日期：2024-11-07Receiveddate:2024-07-24;Reviseddate:2024-11-07

基金项目：贵州省理论创新课题（GZLCLH-2024-15、GZLCLH-2024-16）

FoundationItem:GuizhouTheoreticalInnovationProject(GZLCLH-2024-15,GZLCLH-2024-16)

March2025信息安全