Gartner：网络安全中的AI明确战略方向 .docxVIP

《网络安全中的AI：明确战略方向》

减少干扰、有效管理风险并全面释放AI技术的价值。

摒弃盲从，最大限度发挥AI在网络安全中的价值

平衡网络安全现实需求与GenAI愿景

围绕AI及生成式AI（GenAI）的热潮正迅速改变传统商业运作模式，同时也为本就充满挑战的安全环境带来了全新的风险和挑战。风险不断加剧，而AI的潜力却尚未完全释放。

不过，昨日的颠覆蕴藏着明日的机遇。在外界炒作的背后，AI蕴含着深远的战略价值，值得深入挖掘。

AI无疑将重塑企业的运营方式，包括安全领域。随着AI带来的挑战日益凸显及其应用的不断成熟，企业应重点关注以下需求：

?精准评估AI的影响

?优先聚焦关键风险领域?深化AI价值挖掘

?预见未来趋势

生成式AI

来源：Gartner

Gartner官网成为客户《网络安全中的AI：明确战略方向》2

降低干扰 管理风险 释放AI价值

精准评估AI的影响我们的分析显示，近90%的企业仍停留在研究或试点生成式AI（GenAI）的阶段，其中绝大多数尚未落实AITRiSM（信任、风险与安全管理）的技术手段或政策。这一现状正在重

塑安全生态。领导者们面临多重影响：

直接且紧急

?第三方应用对敏感数据的非受控使用?版权侵权导致的品牌声誉风险

直接但被夸大

用于激发市场关注的GenAI早期夸大宣传

间接且令人担忧

?潜在隐私风险及威胁行为者引发担忧?业务实践变革带来新的攻击面

间接且潜在

?GenAI的持续应用需求推动安全举措与时俱进?新法规与合规要求迫使安全团队提前布局

?潜在的技能短缺与人才挑战带来不确定性

Gartner官网成为客户《网络安全中的AI：明确战略方向》3

降低干扰 管理风险 释放AI价值

明确战略方向引入生成式AI将需要全新或调整过的治理框架，并制定明确的网络安全战略路线图，确保涉及AI的问题得到全面考量。

企业的AI治理范围应根据其成熟度进行定制，但每个企业都应专注于以下三条并行的路线图：

1.调整应用安全策略以支持AI部署在保障安全开发实践的基础上，防范系统运行与开发生命周期中出现的新攻击面。整合隐私增强技术，评估新引进GenAI技术对应用安全的影响。

2.将新AI技术整合到网络安全战略中将AI当前和未来的潜在影响纳入三年战略路线图

3.将AI要素纳入全面的风险管理框架随着企业技能需求的不断演变，评估标准、风险登记册及威胁暴露面也将持续调整。

网络安全领导者对GenAI应用的三大风险关注点：

第三方对敏感数据的获取

GenAI应用与数据泄露

错误决策

来源：Gartner

Gartner官网成为客户