《生成式 AI 技术下“深度伪造”对社会信任的影响及应对》.docxVIP

生成式AI技术下“深度伪造”对社会信任的影响研究

一、引言

（一）研究背景与目的

随着人工智能技术的飞速发展，生成式AI技术如GAN（生成对抗网络）等模型的出现，使机器能够生成高度逼真的图像、视频、音频等内容，“深度伪造”技术应运而生。它在为影视制作、广告创意等领域带来新机遇的同时，也被不法分子利用制作虚假信息，严重冲击了社会信任体系。目前，学界对AI技术的研究多停留在技术原理分析或单一领域应用探讨，缺乏对社会信任机制影响的系统性、跨学科研究。

本研究旨在系统分析生成式AI技术下“深度伪造”现象的现状、问题及影响，揭示其对社会信任机制的冲击机制，提出针对性的防范策略与应对措施，为政府政策制定、行业自律规范、公众媒介素养提升提供参考依据，以平衡技术创新与风险防范，维护社会稳定与信任秩序。

（二）研究意义

1.理论意义

丰富人工智能技术社会影响理论体系，深入挖掘“深度伪造”对社会信任的多维度影响，完善理论架构；推动跨学科理论融合创新，整合多学科理论与方法，为跨学科研究范式发展提供新案例与思路。

2.现实意义

帮助政府部门建立AI内容审核标准，如设计“AI开发者红黄蓝卡”制度；为互联网平台设计谣言过滤机制，提升平台治理能力；提升公众数字素养教育方案的科学性，增强公众对AI谣言的识别能力与信息免疫力。

（三）研究内容

本研究围绕生成式AI技术下“深度伪造”现象展开，具体包括：技术原理剖析与应用现状调查；对社会信任机制的影响分析，从个人、组织、社会层面探讨信任危机表现与成因；法律、伦理困境与挑战研究；提出防范策略与应对措施，涵盖技术、法律、教育、社会治理等多方面。

（四）研究方法

文献研究法：收集国内外相关学术文献、行业报告、政策文件等，了解研究成果与不足，为研究提供理论基础与思路启发。

案例分析法：选取典型“深度伪造”案例，如知名公众人物被伪造视频事件、虚假新闻传播案例等，分析其技术手段、传播路径、社会影响等，揭示一般规律与特殊性。

调查问卷法：围绕“深度伪造”内容识别能力、接触频率与媒体信任度等核心问题，设计3类情境题项（明星伪造视频、模糊新闻视频、亲朋安全类诈骗视频）及态度量表，采用李克特5级评分（1=非常不确定，5=非常确定）。

研究路线

二、研究现状

（一）国内研究现状

AI深度伪造内容是一种现实还原性较高的多模态假消息。从多模态信息的特点出发，已有大量研究证明，首先，视觉类的图片及视频信息相较于文字信息而言，能更加快速地被用户捕捉处理，成为用户了解信息的入口点（GarciaStark,1991）。此外，与其他模态的信息相比，用户对视觉类信息的处理更快，且由于视觉类信息能够唤起用户更高的情感体验，因此更容易通过直观的视觉效果与用户建立联系，使视觉信息的观点更具说服力（Powelletal.,2015）。基于图片优先效应（picturesuperiorityeffect;Stenberg,2006），视频类信息具有更强的视觉效果，用户可以投入更少的认知努力来处理视频及图像信息，进而在不自觉中形塑个人认知。。

（二）国外研究现状

有关用户与深度伪造信息传播的研究发现，认知能力（cognitivecapacity）和对虚假内容的准确性感知（perceivedaccuracyofthefalse）会影响用户对于非政治性深度伪造的互动意愿（Ahmed，2021a）;在Ahmed（2022）的另一项研究中，害怕错过社交媒体中的信息（Fearofmissingout;FOMO）与故意分享深度伪造内容呈正相关关系。此外，用户的认知能力与媒介素养水平影响其对于AI深度伪造内容的判断及理解，认知水平及媒介素养水平较高的用户对AI深度伪造内容的真实性具有更高的怀疑度（PennycookRand,2019）及较低的转发意愿（Ahmed,2021b）。而基于启动效应（primingeffect），对于曾经接触过深度伪造内容及相关知识的用户，其对AI深度伪造内容的认知更深入，对视频中存在的深度伪造内容的识别能力也更强（Iacobuccietal.,2021）。

三、调研结果

本次调研通过设计不同情境的问题，了解公众对“深度伪造”内容的识别能力，并分析接触“深度伪造”内容的频率与对媒体信任度之间的关系。

（一）公众识别能力分析

本次调研通过3类典型“深度伪造”情境题项，量化公众识别能力，并通过相关分析验证接触频率与媒体信任度的关系。数据采用SPSS26.0进行统计分析，包括描述性统计、相关分析和卡方检验。如图1所示

题项

选项

频数

百分比(%)

视频中某位明星在说一些他/她从未说过的话，口型与声音