生成式AI的风险挑战与敏捷治理——以ChatGPT为分析起点.pdfVIP

生成式AI的风险挑战与敏捷治理

——以ChatGPT为分析起点

刘嘉文

扬州大学马克思主义学院，江苏扬州225009

摘要：作为一种由人工智能技术驱动的自然语言处理工具，ChatGPT的出现及应用标志着人工智能生成领域迎来

重要里程碑。但是，随着ChatGPT多样化应用场景的全面铺开，其所诱发的多重风险也凸显出来。因此，针对

ChatGPT风险产生的现实情况，理应对其基本逻辑进行梳理与分析，并从技术、社会、法律等三个层面来探讨其风

险生成，同时通过引入敏捷治理框架，以期为实现人工智能的持续健康发展及敏捷治理提供些许思路。

关键词：人工智能；ChatGPT；人工智能治理；生成式AI；敏捷治理

中图分类号：TP18文献标识码：A文章编号：1672-0164（2024）01-0113-05

与搜索引擎等其他相关应用的叠加，金融、媒体、医疗等

1问题的提出

诸多领域逐渐重塑，将人工智能直接推进到AI2.0，人类社

21世纪，随着算力的飞速提升以及神经网络算法的快[2]

会新一轮技术革命进程顺利开启。

速发展，人工智能领域取得突破性进展。生成式人工智能据统计，ChatGPT发布仅两个月，月活跃用户就超过

作为人工智能的一个重要方向，旨在通过算法、模型等核[3]

了1亿。这是之前其他任何聊天机器人所无可比拟的。随

心技术生成文本、图片、音频、视频、代码等内容，是当着ChatGPT的“爆火”，美国科技巨头谷歌发布其人工智能

前人工智能生成领域的热门技术。ChatGPT全称为“生成聊天机器人Bard、百度也将推出人工智能聊天机器人文心

型预训练变换器”（GenerativePre-trainedTransformer），是一言（英文名ERNIEBot），全球范围内的新一轮人工智能

OpenAI于2022年11月推出的一款基于对话形式实现人机竞争拉开帷幕。但与此同时，人工智能技术的不断进步以

[1]

交互的生成式人工智能模型。作为生成式人工智能的最新及与云计算、大数据等的叠加交互影响，同样使得人类社

成果，ChatGPT的问世代表了自然语言处理和人工智能领会所面临的技术风险性越来越高。因此，如何正确识别人

域取得重要进展。从本质上而言，ChatGPT属于人工智能工智能引发的多重风险、实现其敏捷治理成为当前非常重

生成内容（AIGC）的一种，也是AIGC发展的新起点。相要的一个课题。

较于先前的AlphaGo、Siri及QQ小冰等人工智能成果，

2以ChatGPT为代表生成式人工智能的多

ChatGPT最为进步的地方在于它引入了自生成大语言模型

（LLM），使其具备了优秀的意图识别及自然语言理解与处重风险

理能力，能够编码、建模及生成人类语言。所谓大语言模随着ChatGPT的应用场景逐渐延伸，其引发的现代性

型是指基于大规模文本数据预练而自发生成自然语言的人风险也逐渐“浮现水面”，引起人们的审视与思考。在实际

工智能模型。其中，OpenAI研发的GPT（GenerativePre-应用过程中，AI技术与其他技术的叠加与联合使得风险的

trainedTransformer）模型是最为知名的一种，采用了预训影响范围更加广泛，加大了风险防控与治理难度。具体来

练和微调两个阶段，使用多层变换器来预测下一个单词的