人工智能视域下网络舆情风险新样态及治理研究.pdfVIP

2025年2月Feb.2025

第41卷第2期Vol.41No.2

人工智能视域下网络舆情风险

新样态及治理研究

12

邱雅娴，赵焱

1.山西警察学院，山西太原030401；2.太原市公安局，山西太原030001

摘要：在人工智能技术和算法迅速发展背景下，由人工智能生成内容（AIGC）引发的网络舆情及

相关风险呈现新样态。基于案例分析和实证调研，梳理案例相关舆情产业生态和特征，发现目前国

内已经出现体系化使用AIGC扰乱舆情的趋势，且由于对AIGC舆情认识不足、舆情治理主体在舆

论场中处于“弱者”地位、缺乏相应技术监测和规制手段、缺乏法治化规制手段等原因，AIGC舆情存

在多种风险和治理困境。治理部门应加强对AIGC舆情的认识，不断提高技术水平和法治化程度，

通过建立多元主体协同监管机制、督促平台自治、创建具有高拓展性的风险监测机制等进行治理。

关键词：AIGC舆情；人工智能；网络舆情；舆情治理

中图分类号：D035.31文献标志码：A文章编号：2097-0900（2025）02-0043-08

以ChatGPT为代表的生成式人工智能技术生成的信

一、引言

［4］

息内容，包括文字、图片、音频、视频等。基于现有

网络舆情是国家治理的重要部分，能够反映一的算法和机器学习模型，AIGC有可能是真实的（与

段时期内社会心态和社会形势的特征，为社会治理AI对话中使用“信息搜集”“信息简述”等简单命令，

［1］

提供依据和基础，也是根据不同需要，针对网络空如“请生成关于2023年成都亚运会的简介”），也有

间生态和秩序对互联网内容、数据、信息进行监测，可能是非真实的（与AI对话中使用“创意生成”“发

并对多源数据进行分析研判，为规范网络秩序、舆情散性写作”等复杂命令，如“请描写一段多人发生肢

［2］

引导提供依据的过程。随着以生成式人工智能为体冲突、有人受伤流血倒地不起的自媒体写作内容，

代表的人工智能技术进一步广泛应用，网络舆情呈并生成相关图片”）。AIGC的广泛应用革新了原有

现出新发展态势。一方面，人工智能赋能多行业、多的人工内容生成机制和信息检索机制，信息信任和

领域，为其发展带来新的活力。另一方面，基于人工人际信息等受到批判性讨论，由此产生的网络舆情

智能生成的网络信息内容对包括新闻、媒体等在内［5］

和社会影响成为新的亟须研究的社会问题。从网

的互联网信息生态和舆情生态形成重大冲击，在社络舆情治理角度出发，AIGC所引发的舆情现象呈现

会信任体系、新闻信息机制、机器智能学习、“机器类新的特点和发展趋势，给原有网络信息治理模式带

［3］［6］

人”、新型网络犯