生成式人工智能意识形态安全治理的风险及应对策略.pdfVIP

中共云南省委党校学报2025年第1期

生成式人工智能意识形态安全治理的 

风险及应对策略

李军刚杨晨刘梦超

（东北林业大学马克思主义学院，哈尔滨150040）

摘要：意识形态安全是国家安全的重要组成部分，关系到国家政权安全、制度

安全和文化安全。生成式人工智能的技术局限和“滥用”给我国意识形态安全带来了

风险隐患，主要体现在对党的意识形态工作领导权、管理权和话语权的冲击风险，对

马克思主义在意识形态领域指导地位的侵蚀风险，对人民群众心理意识、认知方式和

思维方式的冲击风险，西方国家“技术霸权”对我国意识形态安全的渗透风险。新时

代新征程应对生成式人工智能意识形态安全风险，要坚持多元共治原则，健全党对意

识形态工作风险治理的体制机制；要坚持智能向善理念，加强对生成式人工智能算法

的技术规训；要坚持人民至上理念，广泛开展生成式人工智能的科技伦理教育；要坚

持合作共赢理念，推进生成式人工智能意识形态安全风险的国际治理。

关键词：生成式人工智能；意识形态安全；总体国家安全观

中图分类号：D261文献标识码：A文章编号：1671-2994（2025）01-0077-08

2022年11月，ChatGPT-4正式推出市场。五天全球用户数量突破百万，两个月全球用户

数量破亿。截至2024年7月31日，我国生成式人工智能大模型注册用户已经超过5.64亿。

生成式人工智能大模型已经成为影响社会公众思想观念、价值取向的重要渠道，成为新征程

党和政府加强和改进网络意识形态工作的前沿阵地。党的二十届三中全会指出，“完善生成式

a

人工智能发展和管理机制”，“坚持马克思主义在意识形态领域指导地位的根本制度”。贯彻落

实党的二十届三中全会关于意识形态安全工作的战略部署，要正视生成式人工智能对我国意

识形态安全的挑战，克服其对网络意识形态安全的消极影响，不断巩固党对意识形态工作的

领导权、管理权和话语权，深化对意识形态安全的综合治理。

收稿日期：2024-11-10

作者简介：李军刚，东北林业大学马克思主义学院教授、法学博士、硕士生导师，研究方向：马克思主

义理论与思政课教学；杨晨，东北林业大学马克思主义理论专业研究生，研究方向：马克思主义理论与思政

课教学；刘梦超，东北林业大学马克思主义理论专业研究生，研究方向：马克思主义理论与思政课教学。

基金项目：教育部人文社会科学规划基金项目“生成式人工智能对高校意识形态安全风险及防范研

究”（24YJA710027）；国家社科基金思政专项“生成式人工智能对高校思政课教学的挑战及应对研究”

（24VSZ073）。

a中共中央关于进一步全面深化改革 推进中国式现代化的决定［N］.人民日报，2024-07-22（003）.

·77·

生成式人工智能意识形态安全治理的风险及应对策略

一、生成式人工智能对意识形态安全治理影响的研究缘起

国内学术界对生成式人工智能意识形态安全治理的相关研究，涉及意识形态安全风险预

判预警、应对处置、效果评价、组织领导、风险防控、法律制度和资源保障等多个方面。这

些研究成果可以分为“技术治理”“舆论治理”“国家治理”“国际治理”等几种类别：一是

“技术治理”说。马昕等从人机深度协同、大模型技术、多模态信息生成视角分析了生成式

人工智能对意识形态话语权的挑战和建设路径a。帅建强、韩源等从模型的生产与控制、数据

的来源与更新、内容的生成与传播分析了生成式人工智能意识形态风险的生成诱因和治理之

道b。向继友、吴学琴等从技术与思想的耦合、预测性的算法推荐、个性化的话语创设和赋权

性的网络传播维度分析了生成式人工智能介入意识形态传播的技术路径、显著特征、潜在风

险和防控策略c。二是“舆论治理”说。张文祥认为，生成式人工智能虚假信息对舆论生态和

话语秩序构成了严峻挑战，