ChatGPT 对网络安全的影响（二）.docx

ChatGPT对网络安全的影响

一、前言

过去几周，整个互联网科技圈被一个来自美国的搅局者--ChatGPT彻底霸榜，甚至全社会普通大众都在开始谈论ChatGPT，ChatGPT已经成为了全球月活最快破亿的消费应用。虽然ChatGPT国内仍然用不了，但丝毫不影响关于它的消息出现在各个平台，刷了一遍又一遍的屏。

面对新鲜事物，好奇与对未知的抵触总是相伴而来的，特别是国内互联网表现得又如此急切，在对ChatGPT的讨论里，态度总是身处两极：一方是片面神化，把ChatGPT的出现认为是宣告新时代的到来，无所不能、无处不在，充满了对未来的想象。而另一方则认为热度的背后全是资本的炒作、新瓶旧酒，无非是又一个新的韭菜切割器，充满了对其不屑。

作为一个新鲜事物被推到了风口浪尖，ChatGPT到底是新一代神器还是图个乐的玩具、亦或割韭菜的工具？打破对新鲜事物好奇与抵触最佳方式就是更多地了解它、甚至尽可能亲自去用一用。

作为信息安全相关产业的从业者，出于本能的反应都会去思考这样的问题：ChatGPT这个互联网上滋生出来的新事物对信息安全相关产业将带来什么样的影响？

二、关于ChatGPT

1、ChatGPT是什么?

ChatGPT--可能很多人被这个缩写的名字搞糊涂了，第一眼无法看出到底什么意思，GPT的英文原文是GenerativePre-trainingTransformer（预训练生成模型），业界有人将ChatGPT概括为聊天机器人+搜索工具+文本创造工具的组合，或者简单理解它是一个生成式AI（内容生成器）。

GPT是由OpenAI开发的自然语言处理（NLP）模型。这些模型经过训练，可以生成类似于人类书写的文本，并且是NLP的重大进步。它使用一种称为转换器架构的深度学习技术，通常用于语言翻译和文本生成等NLP任务。

目前ChatGPT是基于GPT-3模型的变体，它是利用复杂的深度学习系统来创建内容，并在大量公开可用的在线文本（如维基百科）上进行训练。模型允许有效理解自然语言，并使用潜在结果的概率分布。GPT-3对这些进行采样（有一定随机性），因此文本响应永远不会相同。

2、ChatGPT能做什么？

ChatGPT能做什么？它的主要功能是协助回答问题、提供信息和生成有关历史、科学、地理等各种主题的信息，这些信息仅限于它所接受的训练（因为它无法主动浏览互联网），但其知识在不断扩展。

3、ChatGPT牛在哪里？

拿搜索引擎来说，诞生了二十多年的搜索引擎发展并不是线性的，而是随着信息量的指数增大，跳跃式在发展。第一代的搜索引擎WWW（WorldWideWebWanderer），只是个存放网站网址以及标题的目录，甚至没有提供跳转服务；随着技术的发展，搜索引擎可以不局限于网站标题产生标签，进入文本检索时代。第二代的搜索引擎可以初步找到自己想要的内容，受限制的仅仅只是数据库的容量。反馈的搜索结果跟用户搜索内容有直接关系，它更像是一个超大的文本检索器，返回的是包含关键词的清单；第三代搜索引擎是谷歌引领开发的，它把反馈回来的数据整合成一个门户网站的界面，一个个外链组合成了一个完整的信息世界。到了这个时候，搜索引擎其实已经固定下来了，只剩下如何精准地通过关键词来判断用户的真正查询目的这一个问题了。如何不让用户再次筛选，直接把精筛过的高相关内容直接送到用户眼前，现在的搜索引擎还做不到这点。但是，最后这个问题ChatGPT能做到！ChatGPT能理解你的意思、整合信息、反馈出更直接的结果。

ChatGPT为什么显得格外聪明？或者说它是怎么理解我们的？不是它理解了这个世界的规则，而是它把概率学玩转的同时还学会了按人类的方式去表达。

ChatGPT背后的AI模型的训练过程，就是让AI不断进行填词考试，输入一个字、一句话，让程序去预测出现概率最高的下一个字、下一句话。ChatGPT用到了3000亿单词的语料数据和1750亿的参数。前者是喂给程序的训练资料，后者基于训练资料ChatGPT模型对世界的理解，一定程度上说，这个参数量级越大，AI模型就越可靠，越能理解提问。在ChatGPT身上还做了一项训练--人类偏好处理，即从人类的反馈中让AI学会理解人类，因此ChatGPT相比前辈更知道哪种答案才是人类想要的，所以ChatGPT牛在：

（1）它是个通用的模型，只要提示词引导，就能快速适应不同领域。

（2）它能理解你的问题，只要给的引导越多，它就能给出你想要的答案。

由此可以想象更智能的客服、更能听懂你话的AI、会教你买东西的导购、一键生成代码的远程指导......，一切皆有可能。

当下，ChatGPT还存在落地成本高、结果不稳定、推理能力有限