基于人工智能的网络安全产业发展研究报告.pptxVIP

基于人工智能的网络安全产业发展研究报告AI+网络安全：整体逻辑框架攻击视角（提升需求）：1、AI赋能安全攻击——AI/大模型能够显著降低安全攻击门槛，加剧安全威胁，进而提升行业需求；2、大模型自身风险——数据安全相关需求受到AI/大模型的直接拉动。防御视角（改造产品）：AI/大模型带来安全产品形态的变化，从能力提升（从一线运营到安全专家）和效率提升（响应处置时间从天/小时到秒）两大维度，带来了竞争格局改善的可能性。图表：AI+网络安全整体逻辑框架AI大模型原Th安全AI赋能安全攻击AI赋能安全防御u访问控制漏洞uPrompt指令泄露uPrompt注入u内容幻觉u训练数据中毒u沙盒隔离不充分u服务器端请求伪造u自动化检测值守u自动化响应处置u全自动攻防对抗u威胁情报分析u攻击意图研判u攻击载荷解读u攻击路径分析u攻击调查溯源u钓鱼攻击u恶意代码开发u邮件诈骗u漏洞利用u代码混淆u智能化渗透u电信诈骗需求侧产品侧4资料来源：华金证券研究所整理请仔细阅读在本报告尾部的重要法律声明目录01AI+安全驱动需求侧：AI加剧安全威胁02AI+安全变革产品侧：安全运营自动化AI+安全的长期思考：竞争格局改变国内AI+安全现状：明年产品有望放量03046请仔细阅读在本报告尾部的重要法律声明AI赋能安全攻击加剧整体安全威胁大模型/Th成式AI对于网络安全行业的影响与其他行业有所不同，AI不仅仅是对于安全产品形态本身带来改变（防御视角），而且能够通过大幅降低了安全攻击的门槛，进而带来行业总需求的提升（攻击视角）。AI将带来安全攻击的新变化：社会工程攻击、漏洞与攻击面发现、恶意代码Th成等。AI/自动化攻击工具今年下半年进入规模化和产业化阶段。比如FraudGPT在暗网市场和Telegram平台进行售卖：1)1个月计划定价为200美元；2)3月计划定价450美元；3)6个月计划定价1000美元;4)一年计划定价1700美元。图表：AI大模型赋能安全攻击侧的几种方式WormGPT社会工程攻击FraudGPTXXXGPT钓鱼邮件诱饵Th成背景分析伪造对话密码破解……勒索软件Th成规避静态检测编写打包程序混淆代码代码漏洞……恶意代码Th成EvilGPTPoisonGPTWolfGPT漏洞和攻击面发现……模拟攻击漏洞发现漏洞利用自动化渗透提示注入……安全攻击方式安全攻击方向安全攻击工具7资料来源：华金证券研究所整理请仔细阅读在本报告尾部的重要法律声明AI/大模型存在原Th安全问题AI/大模型存在原Th安全问题，其中对安全投入影响最大的为数据安全和AI工程化领域。数据安全既包括了训练阶段数据采集不当、存在偏见或标签错误、数据被投毒等，也包括了模型在应用的过程中，面临数据泄露、隐私曝光等风险隐私曝光等风险。通常需要采取包括数据加密、隐私计算、数据清晰等数据安全保障手段。图表：AI/大模型存在原Th安全问题大模型安全性鲁棒性可靠性隐私性公平性可解释性大模型抵抗外部扰动、输入扰动干扰的能力，面对干扰因素，模型预测需不受干扰并维持输出的正确性大模型在面对不同群体、个体时不受敏感属性影响的能力，确保大模型面对不同群体保持公立公正模型正确地完成目标任务的属性，要求大模型面对未知数据时保证正确预测确保未得到授权的用户无法访问或推断入模数据、大模型信息大模型使用者直观理解模型决策逻辑的属性，是实现人机对齐的前提风险对抗样本投毒攻击后门攻击成员推断攻击属性推断攻击模型反馈数据抽样偏差数据预处理偏见算法偏见算法不透明系统决策复杂缺乏严格数学证明异常数据数据编码错误防护策略数据清洗数据增强鲁棒训练可靠性评估异常值检测数据清洗差分隐私同态加密安全多方计算RLAIFRLHFSelf-DebiasLIMESHAPATTATTR8资料来源：绿盟科技、华金证券研究所整理请仔细阅读在本报告尾部的重要法律声明目录01AI+安全驱动需求侧：AI加剧安全威胁02AI+安全变革产品侧：安全运营自动化AI+安全的长期思考：竞争格局改变国内AI+安全现状：明年产品有望放量03049请仔细阅读在本报告尾部的重要法律声明AI2.0：安全能力的又一次进化图表：AI2.0时代安全能力再次进化规则/特征驱动AI1.0/小模型AI2.0/大模型主要产品防病毒防火墙IDS态势感知NDRTIP安全大脑漏扫安全网关IPSSIEMUEBASOAR安全CopilotEPPXDREDRAIOPsAI安全平台要技黑名单、白名单、特征库行为分析、小模型、机器学习Th成式AI、大模型基于Th成式AI、大模型，能够协助安全运营团队进行检测、分析和处理等工作，从威胁检测和安全运营两个角度提升安全效率和安全能力特点通过手动设置规则，产品能够快速阻止已知的恶意软件和识别已