AI时代的信息安全新挑战.pdfVIP

学术前沿AcademicFrontierI栏目编辑：韩维蜜 AI时代的信息安全新挑战 文Ⅱ上海交通大学网络空间安全技术研究院院长李建华 ChatGPT一一AI平民化的里程碑 或者PPT形式的结果。 人工智能（AI ）技术一直以来还不是 三是ChatGPT的回答是有上下文的。 一项很亲民的技术，要么如神经网络让普 ChatGPT一次聊天过程中，后面的回答 通人无法理解和使用；要么如自动驾驶， 是基于前面的聊天内容，而不是一个一 具有较高的体验门槛，且没有达到一定的 个独立的回答。所以可以就一个问题在 可靠性要求。人们对于AI 的认识，更多 一系列的交互中聊透，这个确实很像和 来自于手机支付的人脸识别、互联网服务 人的对话。 的自动客服等应用。自动客服不太智能的 正是这样的特性，使得ChatGPT成 回复，往往让焦急的用户抓狂，分分钟想 为一种普通人能够轻易获得，并且愿意花 要转人工客服。总体给人的感觉就是，平 时间去体验的服务，从而开启了AI 的平民 民的AI时代尚未到来，还需要一个比较长 时代。这种情况下，AI将会迅速影响生活 的过程。这一切，在ChatGPT的出现后， 中的各个领域，自然包括信息安全领域。 发生了根本性的改变。 AI给信息安全领域带来的影响必定是 ChatGPT带来的新体验就是，总算 双面的。一方面，AI能够辅助安全分析人 李建华 有点像人的回复了。它是由OpenAI研发 员更好地发现系统的漏洞，更快找到相似 博士、教授、博士生导师，上海交通大学网络 的自然语言生成模型GPT-3.5基础上，用 的案例，从而对系统进行加固。另一方面， 空间安全技术研究院院长，信息内容分析技术 国家工程研究中心主任，网络信息安全管理监 聊天的方式来实现的一种对话服务。这个 AI也会被黑客利用，更容易找到突破系统 控与服务教育部工程研究中心主任，上海市网 对话服务和原来不太智能的客服有多个方 防护的手段，制造更加逼真的社工邮件， 络安全综合管理技术研究重点实验室主任。主 面的本质区别。 从而降低网络攻击的门槛。ChatGPT虽然 要研究领域包括：信息内容安全、网络安全管 一是结果相关性非常好。ChatGPT显 是以聊天形式出现的AI应用，但是却直击 理、数据安全与隐私计算、网络攻防与系统安 然不仅仅做了关键词匹配，它是在理解提 AI在信息安全领域的应用痛点，如海量文 全检测等理论及应用技术。先后主持/参加了 问者意图的基础上给出的答复。国外已经 本处理和理解、智能化的攻击手法和漏洞 40余项国家863、自然基金、攻关计划等科研 拿ChatGPT参加了各种的考试，像GRE 匹配、自动化的代码生成等，其对于信息 项目。发表论文300余篇，编著专著及教材16 本，制定国家和行业标准/规范8项。获国家科 和托福自然不在话下，还有拿它参加沃顿 安全的冲击必将是深刻的。 学技术进步奖1项、省部级一等奖5项、省部级 商学院MBA、执业医师考试，以及律师 二等奖、三等奖9项。 考试，ChatGPT都拿到了不错的成绩。 AI时代信息安全面临新威胁 二是结果是经过整理归纳的。不像搜 GPT作为一种生