生成式人工智能意识形态风险的审视与破解.pdf

第４０卷第３期思想政治教育研究Ｖｏｌ.４０Ｎｏ.３

２０２４年６月ＩｄｅｏｌｏｇｉｃａｌａｎｄＰｏｌｉｔｉｃａｌＥｄｕｃａｔｉｏｎＲｅｓｅａｒｃｈＪｕｎ.２０２４

意识形态与社会思潮研究

生成式人工智能意识形态风险的审视与破解

１２

王启帆ꎬ刘雨

(１.黑龙江中医药大学第二临床医学院ꎬ黑龙江哈尔滨１５００４０ꎻ

２.江苏第二师范学院马克思主义学院ꎬ江苏南京２１１２２２)

摘要:随着生成式人工智能的广泛应用ꎬ审视与破解生成式人工智能的意识形态风险成为了一个重要的时代命

题ꎮ生成式人工智能具有意识形态属性ꎬ呈现出信息真伪的“灰色裂缝”、“技术霸权”的主导传播以及“技术应

用”的外部张力的主要样态ꎮ究其诱因而言ꎬ主要通过“技术利维坦”“算法歧视”以及“资本僭越”产生ꎮ为破解

生成式人工智能的意识形态风险ꎬ应当进行纠偏价值理性、瓦解“技术利维坦”支配ꎬ推进算法向善ꎬ脱离“算法歧

视”误区ꎬ完善制度保障:ꎬ防范资本无序扩张ꎮ

关键词:生成式人工智能ꎻ意识形态ꎻ风险

ＤＯＩ:１０.１５９３８/ｊ.ｃｎｋｉ.ｉｐｅｒ.２０２４.０３.００８

中图分类号:ＴＰ１８文献标识码:Ａ文章编号:１６７２－９７４９(２０２４)０３－００５６－０７

２０２２年１２月ꎬ随着美国ＯｐｅｎＡＩ公司的ＡＰＩ应基本渠道ꎬ而且也赋予社会发展动力ꎬ但随之也滋

用程序编程接口向全世界开放ꎬ以ＣｈａｔＧＰＴ为代表生出新的意识形态风险ꎬ呈现出前所未有的复杂样

的生成式人工智能不断涌现ꎬ在短时间内便获得了态ꎬ威胁我国意识形态安全ꎮ

广泛关注ꎬ这在很大程度上对政治、经济、教育、社１.意识形态撕裂风险:信息真伪的“灰色裂缝”

会以及文化等领域都产生了深远的影响ꎬ自此生成自生成式人工智能问世以来ꎬ其生成信息的真

式人工智能掀起了新的数字化浪潮ꎮ数字时代ꎬ我伪始终受到广泛关注ꎮ生成式人工智能制造虚假

国意识形态领域呈现出了新的特点ꎬ生成式人工智信息的问题逐渐凸显ꎬ不仅损害用户的基本权利ꎬ

能的出现更对我国意识形态领域产生了多方面影更对公众产生不良诱导ꎬ形成了信息真伪的“灰色

响ꎬ提升了意识形态领域的治理难度ꎬ为我国意识裂缝”ꎬ产生意识形态撕裂风险ꎮ

形态安全带来了全新的挑战ꎮ据此ꎬ挖掘生成式人第一ꎬ信息的“真假难辨”ꎬ诱导真相与虚假混

工智能意识形态风险的产生ꎬ审视生成式人工智能淆ꎮ在一项国外的研究中ꎬ“将以ＣｈａｔＧＰＴ为代表

的意识形态风险表象ꎬ提出生成式人工智能意识形的生成式人工之智能创建的内容文本提交给专业

态风险的破解对策ꎬ对于维护我国意识形态安全、学术评审专家审核ꎬ这些内容文本全部通过学术剽

加强数字中国建设等方面具有重要的理论与实践窃检测ꎬ‘智能检测器’的识别率为６６％ꎬ评审专家

[１]

意义ꎮ识别率为６８％”ꎮ这意味着生成式人工智能的

生成内容已经达到了“以假乱真”的程度ꎮ究其原

一、生成式人工智能意识形态风险的

因ꎬ主要是由于生成式人工智能因其深度学习数据

样态审视

的广泛性ꎬ具有较强的论证能力ꎬ会根据人提出的