生成式人工智能对网络安全的影响.pdfVIP

I互联网+技术

nternetTechnology

生成式人工智能对网络安全的影响

文｜刘坤峰刘欣慧

摘要：生成式人工智能不断迭代发展，应用越来越广泛、深入。人们在研究和尝试如何将AIGC与从事的行业和工作

结合起来，以达到提高工作效率、节省人力、更高效的完成相关工作的目的。文章研究了生成式人工智能在网络安

全领域正反两方面的应用，探索了生成式人工智能在代码审计和生成、漏洞和钓鱼邮件检测、AI深度合成等方面的

应用。文章认为，随着生成式人工智能的不断迭代发展，其将在网络安全领域获得广泛而深入的应用，会对网络安

全领域带来正反两方面的深刻影响。

关键词：生成式人工智能；AIGC；AI；网络安全

自2022年11月ChatGPT诞生以来，生成式人工智importsys

能（AIGC）技术不断迭代发展，成为当前研究和应用的defharmonic(n):

热门。目前我国有文心一言、通义千问、讯飞星火、智total=0.0

谱清言、字节豆包、Kimi等AIGC应用。截至2024年7foriinrange(1,n+1):

月30日，全国范围内已有197个生成式人工智能服务total+=1.0/i

通过网信办备案。AIGC技术对各行各业带来了即时或returntotal

潜在的影响，生成式人工智能作为人工智能领域的重要n=int(sys.argv[1])

分支，以其强大的数据处理能力和创新的应用场景，正foriinrange(1,n+1):

在以前所未有的速度改变着各行各业，对网络安全工作print(harmonic(i))

的影响也不例外。智谱清言、Kimi等AIGC审计认为，这段Python代

一、生成式人工智能对网络安全工作的正面码定义了一个函数Harmonic，用于计算n阶调和数，即

影响计算从1到n的倒数之和。然后，代码从命令行参数中

（一）提升网络安全工作自动化水平获取一个整数n，计算并打印从1到n的每个调和数的值。

利用AI提升网络安全工作的自动化水平，使得安（四）漏洞发现

全工作人员减少繁杂的重复性、事务性工作，聚焦AI以DVWA等渗透测试环境为例，利用AIGC的代

不能完成的网络安全方面工作，同时降低人为导致的错码生成和强大的分析能力，可以挖掘代码漏洞并给出修

误的可能性。生成式人工智能在智能化防护、预测性安复方案。对于渗透测试平台DVWA的SQL注入漏洞，

全、自适应防御等网络安全领域都有广泛的应用[1]。SecurityLevels设置为high，将SQL注入源代码，询问

（二）网络安全顾问智谱清言、Kimi等AIGC，会给出分析，认为代码存

AIGC可以作为组织或个人的网络安全顾问。其可在SQL注入，问题在于查询字符串直接将$id变量插入

针对用户提出的问题给出专业的回答。就像案头的百科SQL语句中，而没有进行任何形式的转义或参数化查询，

全书，用户可随时向它提出问题，学习相关的网络安全