人工智能安全风险分析及应对策略.pdfVIP

网事焦点

Feature

人工智能安全风险分析及应对策略

文│中国移动通信集团有限公司信息安全管理与运行中心张峰江为强邱勤郭中元王光涛

人工智能（AI）是引领新一轮科技革命BING；谷歌快速推出聊天机器人产品BARD；百

和产业变革的关键技术。人工智能赋度推出了国内首个生成式文档服务“文心一言”；

能网络安全的同时，也会带来前所未有的安全风京东计划推出ChatJD产业版。ChatGPT有力推动

险。本文在介绍人工智能技术赋能网络安全关键了AI产业发展，将促进内容生产方式变革并对AI

场景的基础上，分析人工智能因潜在技术滥用、产业上下游产生重大影响。

新技术应用等带来的安全风险，并提出相应的安在通信领域，AI应用可帮助改进信息通信服

全建议与应对策略。务能力，例如，其在自然语言上的强大能力可用于

提升智能客服、智慧运营、欺诈监测等运营服务功

一、人工智能的发展现状及产业影响能，通信网络中的海量数据有助于训练AI模型，

使网络能够实现自主运行。同时，AI在富媒体多模

(一)人工智能发展现状态数据处理上的能力，将为运营商在政企业务上提

我国“十四五”规划纲要明确大力发展AI产供重要支撑，助力千行百业实现数字化转型。

业，培育AI等新兴数字产业。在党的二十大报告中，不过ChatGPT给人们带来的对网络安全的担

AI与生物技术、新能源、新材料、高端装备、绿忧也是目前争议的热点。以ChatGPT为代表的生

色环保等行业一起被列为新的增长引擎。近年来，成式人工智能技术在网络安全领域是一把“双刃

AI技术在通信、制造、金融、教育、医疗和交通剑”，一方面，ChatGPT可以赋能网络安全，提

等领域的深入应用，引领了新一轮科技革命和包升风险检测与防护能力；另一方面，ChatGPT技

括通信领域在内的产业变革浪潮。术的滥用将对国家、社会、公众带来负面影响，

AI技术的三大核心要素是算法、算力和数据。同时，AI新技术的脆弱性也使得ChatGPT应用自

算法是AI的“大脑”，目前算法应用主要区分为身面临安全风险。

决策式和生成式。前者是根据已有数据进行分析、总体上，ChatGPT在产业内展示出比较显著

判断、预测；后者是基于已有数据进行模仿式创作，的“五力”：

生成全新的内容。近日，被全球用户广泛应用的一是引领力：ChatGPT引领新一轮生成式AI

AI聊天机器人ChatGPT即采用了生成式超大规模浪潮，同时引领了AI领域商业化进程加速。二是

预训练变换模型算法。算力是AI的“四肢”，是创新力：具备模拟人类思维模式创作新内容的能力，

算法和数据的基础设施，AI算法模型对于算力的标志着AI进入生成式AI技术应用时代。三是心智

巨大需求，推动了今天芯片甚至算力产业的发展。力：ChatGPT表现出了类似人类的同理心、情绪处

数据是AI的“饲料”，AI算法需要通过海量数理、意图猜测等能力。四是计算力：目前ChatGPT

据的训练而不断完善。依托的大算力服务器，已导入了至少1万颗英伟达

(二)人工智能相关产业影响