2023-08-22 技战法系列-ChatGPT提升攻防效果技战法.pdfVIP

技战法系列-ChatGPT提升攻防效果技战法

原创BeatRex

2023-08-22原

一、技战法概述

ChatGPT是大规模预训练语言模型GPT的一个变种，可以用于生成自

然语言对话。随着人工智能给人们带来的生活的边界，ChatGPT变得

越来越受欢迎，例如做机器人客服和在线对话、利用其编写相关材料

等。核心技术是自然语言处理，这也是安全威胁的潜在来源。

如果ChatGPT被恶意使用，它可以被用来自动化网络钓鱼攻击、社会

工程攻击，或者进行网络诈骗等。而且ChatGPT可以学习人类的语言

和行为模式，这使得它更容易被用于模仿人类进行诈骗或者冒充人类

进行攻击。

ChatGPT是一把双刃剑，在网络安全领域，通过此技术可以开展威胁

情报收集与分析、漏洞扫描修复与工具、安全事件响应等。因此利用

好ChatGPT可在攻防实战中提升防守效果，减轻防守人员的压力。攻

击者在安全能力、信息（数据）、自动化工具层面往往相较防守者有

巨大的优势，ChatGPT加持下正在进一步加剧。

二、GPT在攻防领域的应用

2.1应用于社会工程学攻击

ChatGPT可以根据用户的语言习惯和兴趣生成一些看似真实的信息，

这使得攻击者可以轻松地通过社交工程欺骗和诈骗用户。攻击者可以

利用智能问答功能，针对目标个体或组织进行深入的调查和研究，从

而更准确地制定攻击策略。通过ChatGPT，攻击者可以获取到关于目

标的各种详细信息，包括个人喜好、行为模式、重要日期、家庭和社

会关系等。这些信息都有可能被用来进行针对性的攻击。

在反钓鱼方面，需要ChatGPT有对应文本检测能力，可以用于监控电

子邮件和消息，以检测语言模式的异常，并警示用户注意避免钓鱼攻

公众号:渗透安全HackTwo

击,并提示用户不要输入任何敏感信息。如果使用ChatGPT文本生成检

测的专用工具可以大大提高钓鱼攻击的识别率和准确性，更好地保护

用户的信息和隐私。

ChatGPT还可以用于提供反网络钓鱼的教育和培训。通过模拟网络钓

鱼的场景，ChatGPT可以帮助用户提高对网络钓鱼的识别能力，增强

防范意识。同时，ChatGPT也可以提供实时的钓鱼邮件检测服务，对

进入企业的邮件进行扫描和过滤，确保企业的信息安全。

2.2应用于恶意代码生成

GPT的出现，攻击方可以更便捷快速地生成攻击工具、混淆攻击代码

等，针对性地构造未知、高级的攻击。当前安全设备对于这种未知恶

意样本查杀能力较弱，很容易被攻击者绕过。过去广泛应用于安全检

测领域的AI机器学习小模型，每种模型只能用于单一检测场景，小模

型训练与研发效率较低，误报率居高不下。

攻击者可以使用ChatGPT生成虚假的新闻和评论来引起公众的恐慌、

误解和不信任，甚至导致社会动荡。在攻防实战过程中，通过ChatGP

T可以自动化编写相关脚本、代码、恶意程序，利用ChatGPT人工智

能生成的相关恶意代码可以使得某些不具备编程能力已经文件免杀能

力的黑客快速实现工具开发能力，开展定向攻击。如通过GPT编写勒

索病毒、使用GPT完成后门的免杀等工作。

公众号:渗透安全HackTwo

2.3应用于威胁检测与拦截联动

GPT

作为自然语言处理器的能力也使其成为一种有价值的工具，用于检测

和解决涉及攻击方针对组织员工而非其系统的社会工程攻击。攻击者

冒充合法组织的同事或官方代表，向寻求敏感信息的员工发送电子邮

件或短信。如果员工无意中提供了信息，则组织的计算机系统可能会

受到损害。

除此之外，还可以通过训练来检测常见攻击、恶意行为模式和可疑异

常，从而增强组织对社会工程攻击的防御能力。当它检测到此类攻击

时，GPT

可以提醒业务负责人几安全监测人员注意潜在威胁。在整个联动体系

部署好的情况下，GPT

可以在攻击到达目标员工之前识别并隔离攻击。

恶意软件攻击通常涉及类似于社会工程学的策略。通过欺骗系统用户

，威胁行为者能够将恶意程序注入用户的计算机或组织的网络。可以

训练GPT来识别恶意软件攻击中使用的模式。

三、GPT攻防效果提升建设成果

我单位通过态势感知、流量探针、防火墙、行为管理结合人工团队，

形成了人机共智的7*24小时防御体系，其次结合C