如何防范生成式AI_的钓鱼邮件攻击 .pdfVIP

防火墙计算机与网络

■吕蕴藉

2023年ChatGPT火爆全网，近年来AI取得了长足的进为邮件攻击带来了以下一些优势：

步，给各行各业带来了革命性的变化。然而，与任何技术一构造极具欺骗性的邮件内容：生成式AI可以创建内容和

样，总是有人试图利用它来达到恶意目的。如今，黑客正在使语法无可挑剔的电子邮件，使其看起来合法，降低了被标记为

用一种名为WormGPT的AI工具进行钓鱼和BEC邮件攻可疑的可能性。

击。该工具基于OpenAI的ChatGPT，专为恶意网络攻击而设降低攻击的门槛：使用生成式AI降低了执行复杂BEC

计，对企业的邮件安全构成重大威胁。攻击的门槛。即使是技能有限的攻击者也可以使用这项技术，

WormGPT使其成为可广泛使用的黑客工具。

黑客正在使用一种名为WormGPT的AI工具进行钓鱼如何防范生成式AI的邮件攻击

和BEC邮件攻击。该工具基于OpenAI的ChatGPT,专为恶意AI的发展虽然推动了各个行业的进步，但同时也带来了

网络攻击而设计，对企业的邮件安全构成重大威胁。新的问题。企业可以通过如下一些预防措施来防范生成式AI

WormGPT基于复杂的生成式AI大模型，可以生成类似的邮件安全攻击。

于人类创作的文本。与此同时，它学习了邮件安全检测的相企业员工培训：企业应该制定、开发、并定期更新相关的

关数据。这使得WormGPT创建的电子邮件不仅非常具有说培训计划，定期组织钓鱼邮件演练，应对BEC攻击，尤其是那

服力，而且在躲避邮件安全检测上也很狡猾，显示出它在钓些由AI增强的攻击。通过培训课程来教育员工有关钓鱼和

BECAI

鱼和BEC邮件攻击方面的黑色潜力。邮件威胁的知识，如何被用于增强这些威胁，以及攻

尝试WormGPT击者经常采用的策略。与此同时，应定期进行钓鱼邮件演练，

研究团队最近通过一个与网络犯罪经常相关的知名在测试员工的安全意识；

线论坛获得了WormGPT。在论坛上，这个工具宣称自己是定期检查安全防护设备：确保邮件安全网关、邮件安全沙

GPT模型的黑客版本，专门用于恶意活动。箱等邮件安全防护设备的策略配置正确且生效，并确保邮件

网页介绍宣称WormGPT的开发始于2021年，是基于安全网关、邮件安全沙箱等设备的防护库已升级到最新版本；

GPTJ语言模型开发的AI模块。它拥有多种功能，包括创建验证发件人身份：在回复或提供任何敏感信息之前，细心

恶意代码、无限字符支持、聊天记忆保留以及代码格式化能验证发件人的身份。确保邮件地址和发件人姓名与正式机构

力等。根据介绍，基于各种数据源进行训练，特别或公司的信息相符；

WormGPT

是侧重于学习与恶意软件相关的数据。然而，训练过程中使鼓励员工报告可疑邮件：如果员收到可疑的钓鱼邮件，应

用的具体数据集并没有公开，而是被作者保密。及时将其报告给您的组织或相关机构，以帮助企业采取适当

研究团队利用WormGPT进行了BEC攻击的测试，以全的行动保护其他员工；

面评估与WormGPT相关的潜在危险。在其中一个实验中，团警惕紧急情况：钓鱼邮件常常试图制造紧急情况，以迫使

队指示WormGP