公安机关治理网络谣言面临的挑战及其策略——以生成式人工智能技术应用为背景.pdfVIP

2024年12月四川警察学院学报Dec.，2024

第36卷第6期JournalofSichuanPoliceCollegeVol.36No.6

公安机关治理网络谣言面临的挑战及其策略

——以生成式人工智能技术应用为背景

黄园，吴青松

摘要：随着生成式人工智能（AIGC）技术的迭代升级和应用领域的不断拓展，网络信息的生产与传

播方式也产生了巨大的变革并日趋多样。AIGC能够快速处理海量数据实现对用户需求和偏好的精准分

析，在此基础上自动生成原创内容并向用户推送个性化定制内容。一些不法分子利用AIGC的这一特点，

通过编造、篡改等手段生产和传播网络谣言，给公安机关对网络谣言的解析认定、预警监测，网络谣言

治理的介入时期和时机选择，对造（传）谣者的行为动机、后果定性等方面带来严峻的挑战。在此背景

下，公安机关应从四个方面着力提升对网络谣言的治理能力：一是强化技术创新，提升鉴别监测能力；

二是完善行动预案，提升应对处置能力；三是健全法律规范，提升打击治理能力；四是加强媒体宣传，提

升公众社会责任感。

关键词：网络谣言犯罪；人工智能技术；生成式人工智能技术；治理策略

DOI:10.16022/51-1716/d.2024.06.003

中图分类号：D631.4文献标志码：A文章编号：1674-5612（2024）06-0050-11

一、问题的提出

①

近年来，随着网络信息技术的快速发展，互联网产业进入快车道，网民规模不断扩大。

网民间交流内容的覆盖范围也不断拓展，从日常琐事到社会热点事件，从专业知识分享到

个人见解表达。网民在网络上讨论交流的议题范围不断扩展，互动频率不断提高，这吸引

了更多人融入互联网，同时也带来了网络谣言传播与放大的风险。尤其是人工智能（以下

简称“AI”）技术的快速迭代与更新，带来信息生产和传播方式的变革，在此背景下谣言信息

②

量显著增加。生成式人工智能（以下简称“AIGC”）技术的发展与迭代升级，一方面为网络

信息的生产与传播带来新机遇，另一方面也导致应用AIGC技术制造和传播的网络谣言呈

基金项目：2023年度公安部理论及软科学项目“自媒体时代公安机关应对‘网络谣言与危机’进路研究”（2023LL26）

收稿日期：2024-10-05

作者简介：黄园，女，吉林长春人，吉林警察学院侦查系副教授，法学博士，主要从事城市安全、警务情报管理与应用研究；吴

青松，男，吉林长春人，长春市公安局情报指挥中心警务技术二级主任，主要从事情报研判、大数据应用研究。

①中国互联网络信息中心（CNNIC）2024年8月29日发布的《中国互联网络发展状况统计报告》显示，截至2024年6月，我国

网民规模已达到10.9967亿人，较2023年12月增长了742万人，互联网普及率达到了78.0%。

②2023年以来，网络谣言整体态势平稳，但AI谣言量近半年信息量增长65%。近两年AI谣言中，经济与企业类谣言占比最

高，达到43.71%。近一年来，经济与企业类AI谣言量增速高达99.91%。资料来源于【法治日报-法治网】2024年4月26日发布的

《报告显示AI谣言量近半年增长65%，经济与企业类谣言激增亟待加强治理力度》，网址：http://www./index/content/

2024-04/26/content_8989942.html，访问日期：2024-08-25。

50

黄园吴青松公安机关治理网络谣言面临的挑战及其策略

现愈演愈烈的态势，甚至沦为网络诈骗等违法犯罪的帮凶，成为污染网络环境，影响社会稳

定、公共安全的重要因素。

当前关于公安机关如何有效治理不法人员利用AIGC技术制造和传播网络谣言，学界主