生成式人工智能算法对主流意识形态的影响研究.pdfVIP

科技评论|REVIEW

生成式人工智能算法对主流意识形态的

影响研究

文/魏仁乐袁煊赫

摘要：本文基于生成式人工智能算法的逻辑原理，探究其如何影响主流意识形态，并对其产生意识形态风险

的根源进行剖析。在此基础上，从技术手段和管理手段两方面研究防控方法及途径，并针对其存在的

风险提出有效的解决对策。

关键词：人工智能算法主流意识形态

上杜绝意识形态风险。

1生成式人工智能算法对主流意识形态的

2.3意识形态调节作用的潜移默化

影响

GAI算法在意识形态上的渗透潜移默化，涵盖信息传

生成式人工智能（generativeartificialintelligence，递、价值观宣传、社会交往、教育过程及宣传媒介等多个

GAI）算法对主流意识形态既有积极作用，也有消极影响。层面，全方位、多角度、宽领域地对群众思想意识和认知

一方面，GAI算法普及知识、传播教育、促进文化交流，观念产生显著影响。为降低其隐性伤害，需在数据选取、

增强社会包容性；另一方面，GAI算法可能导致虚假信息算法设计、内容把关等方面加强监管和公开，确保GAI应

传播、偏见和歧视加深，以及社会分层加剧、伦理法律问用公平、公正、透明。

题和精神健康问题等一系列不良影响[1]。2021年9月，国2.4政府监管的困难

家发布《关于加强互联网信息服务算法综合治理的指导意GAI算法的政府监管面临技术复杂性高、发展速度快、

见》，指出算法应用中可能存在意识形态、社会公平、道跨国界、利益攸关方多元化、隐私和数据保护、伦理道德、

德伦理等安全风险[2]。作为前沿技术的GAI算法，对维护经济创新影响及执行难等问题。为保障GAI技术安全应用、

主流意识形态具有安全隐患和挑战性。合理使用和公正运行，需政府、企业、学界及社会各界协同，

共建适合中国国情的综合性、动态性及灵活性并存的治理

2生成式人工智能算法产生意识形态风险的机制。

原因

3生成式人工智能算法产生意识形态风险的

2.1生产者与消费者的政治与价值差异

防控策略

GAI算法的生产者和消费者在政治、价值观念上存在

差异，这些不同认识可能带来意识形态风险。若两群体的3.1技术手段的防范

政治认知和价值观不一致，风险性问题便可能出现[3]。为3.1.1持续完善生成式人工智能算法模型

降低此风险，算法设计者应注重多样性与包容性设计，并持续完善GAI算法模型，防范由此产生的意识形态风

在开发过程中考虑多元价值取向和更多的伦理规范要求。险是一项系统工程，需要长期不懈的努力。以下是防范意

[4]

2.2自学习预训练模型的取值范围模糊识形态风险的有效措施与办法。

GAI算法中的自学习预训练模型在具体取值上存在模一是提升数据质量与多样性。从多元、可信的数据源

糊性。由于自学习预训练模型依赖大量无监督数据进行预获取训练数据，避免偏见和不公平现象；利用跨国界、跨

训练，数据质量、分类合理性及分布偏差均会影响训练结果。地域的数据集提升模型