人工智能的机遇和挑战.pptxVIP

人工智能的机遇和挑战1网络安全威胁日益加剧网随着互联网应用普及化，所对应的网络威胁数目随之上升，而且其复杂性也相对增加，对网络安全带来了巨大挑战。图102：网络安全威胁日益加重如今移动设备、物联网、云计算在企业中的应用日益普及，攻击面也相对增 加。01黑客可以利用人工智能来不断变形病毒/恶意软件，而传统的静态防御解决方案未必能对此有效检测以及阻断。02网络攻击服务化（Cyberattack-as-a- Service）令网络攻击变得普及，攻击者自身不须拥有强大的黑客知识亦可以通过支付加密货币获得攻击工具。031AI大模型催化，网络安全产业机会与挑战并存人工智能在网络安全方面的作用是帮助组织降低入侵风险，并改善其整体安全状况。图103：人工智能推动网络安全水平的提高人工智能通过从过去的数据中识别模式和趋势，然后这些信息被用来预测未来的袭击。人工智能驱动的系统还可以配置为自动响应威胁，并在更快的时间内对抗网络威胁。随着企业攻击面不断发展和演变，时而必须处理多达数千亿的时变信号以正确地计算风险。为了应对这一前所未有的挑战，神经网络等人工智能工具和方法不断发展，以更有效和高效的威胁检测和威胁消除功能，帮助信息安全团队保护敏感信息、降低入侵风险、降低安全运营成本、改善安全态势。随着大模型潮流兴起，网络安全的产品能力、平台运营能力以及安全服务都有望迎来全面的优化升级。1AI大模型本身的安全十分重要“AI安全”与“安全的AI”同等重要虽然AI及大模型能够有效赋能网络安全产业，但AI大模型本身 的安全保证也十分重要。在此方面，既要能应对利用大模型等 AI技术进行网络攻击的风险，又要保证大模型本身的安全性。 要考虑前者的原因是，大模型降低了黑客代码和攻击策略设计 的门槛，使得攻击成本降低。要考虑后者的原因是，大模型本 身的对齐、可解释性等问题使得其应用存在一定隐患。OpenAI对安全构建AI系统尤为重视。2023年4月6日，OpenAI官方发布了《Our approach to AI safety》文章，探讨了如何安全地构建、部署和使用人工智能系统的六大策略。Sam Altman在北京智源人工智能大会上，也主要强调了AGI安全的重要性。AGI未来将在诸多领域超越人类智慧，正因如此，AGI风险空前高涨，若没有控制和约束AGI，AGI可能会往人类无法预测的方向发展，对人类生活造成严重威胁。图104：OpenAI发布了安全地部署和使用人工智能系统的六大策略1新技术浪潮下的网络安全产业需要考虑四重安全图105：大模型赋能下，网络安全产业要考虑四重安全保障大模型赋能下，网络安全产业要考虑四重安全保障第一步是做好传统网络安全防护。第二步是用人工智能相关算法或大模型对网络安全产品进行增强，以及对服务的优化赋能。该阶段要保证AI大模型赋能网安的过程中，AI系统和网络安全产品的集成能有效融合。第三步是保证大模型输出的AI能力的原生安全（在当前对齐、可解释性等问题尚未有效解决的前提下，也至少要保证安全风险不能被AI放大）。第四步是聚焦大模型本身的安全防护，因为其作为AI能力输出的基石，本身的安全稳定有着根本性支撑作用。1网络安全与人工智能技术结合具备天然优势人工智能对网络安全的提升来源于三个方面：增强网络安全单点产品的能力；态势感知平台的应用；应对海量的告警以及高级持续性威胁。图106：人工智能对网络安全的提升来源于三个方面应对海量的告警以及高级持续性威胁增强网络安全单点产品的能力态势感知平台的应用前期的资产梳理、安全漏洞排查以及边界的防护方面，都需要防火墙、IDS/IPS等产品部署，而与传统的软件驱动或手动方法相比，机器学习技术可通过结合来自主机、网络和云上的反恶意软件组件的大量数据来改进恶意软件检测；深度学习使用大量数据来训练深度神经网络，此举也能助力防范各类攻击。面对越来越专业的恶意攻击，已无法再用传统的边界隔离理念相抗衡了。因此，通过态势感知平台调动各类单点网络安全产品来形成安全合力十分有效，因为本质上讲，网络安全就是发生在虚拟世界的攻防战，速度为王，而态势感知平台的作用就是分析安全环境信息、快速判断当前及未来形势，以作出正确响应。这个过程本就是人工智能的智能研判、决策分析的用武之地。网络安全运营团队在AI工具协助下，可以 采取更积极的策略，对事件作出相应反应。并且在事件响应方面，相对于人工处理， 基于人工智能的安全工具一旦发现威胁就可以对其自动作出反应。1大模型对网络安全产业的供给侧和需求侧带来巨大变化大语言模型技术的广泛应用，能够赋能网络安全产业的诸多环节，甚至可能对部分环节带来颠覆性的改变。以GPT为代表的大模型的本质是理解语言意图并根据意图进行任务分配，从而实现对话、计算、制图等能力，具有语言体系且流程性工作的占比较大的工作环节能被大模型所赋能。