生成式人工智能的伦理风险及其防范对策.pdfVIP

生成式人工智能的伦理风险

及其防范对策*

薛桂波

（南京林业大学马克思主义学院）

摘要：作为人工智能技术发展的最新阶段，生成式人工智能虽然在创造性、交互性和通用

性等方面展现出不同于传统人工智能的独特性，但是它的创新应用具有极高的不确定性，潜藏着

巨大的伦理风险，诸如传播偏见和歧视、泄露隐私、制造虚假信息、操纵认知和导致科研伦理失范

等。笔者认为应在分析生成式人工智能伦理风险的技术逻辑和社会建构等根源的基础上探寻生

成式人工智能伦理风险的防范之策，强化“增进人类福祉”的价值理念、增强技术可解释性、健全

伦理规制、加强企业自律和构建风险治理的全球合作机制等。

关键词：生成式人工智能；伦理风险；科技向善；科技伦理治理

DOI：10.16397/ki.1671-1165.202501001开放科学（资源服务）标识码（OSID）：

随着ChatGPT（GenerativePre-trainedTransformer）等大模型社会应用的日益广泛，生成式

人工智能（GenerativeArtificialIntelligence,GAI）的创新发展及社会影响越来越成为社会各界

关注的热点问题。2024年2月，OpenAI公司推出视频生成模型Sora，该系统可以根据用户的

①

文本提示创建逼真视频。2025年1月，杭州深度求索人工智能基础技术研究有限公司推出

DeepSeek系列大模型，更加引发全球对生成式人工智能的广泛讨论。“生成”意味着人工智能

不仅可以做以往的判别式工作，还可形成新的生产力，其引发的科技革命和产业变革必将重

②

塑世界经济、影响未来生活。但是，生成式人工智能也可能带来巨大的伦理风险，需要我们

进行必要的冷思考并探寻可能的风险防范化解之策，以促进其向善发展、造福人类。

一、生成式人工智能的发展现状与应用特征

目前，人工智能主要分为判别式和生成式两种模型，前者关注如何在给定输入情况下预

测输出，通常更专注于类别边界和决策面，使分类更精确，在特定任务上表现出色；而后者则

*收稿日期：2024-12-25

基金项目：国家社会科学基金项目“基于中国语境的生成式人工智能伦理风险研究”（24BZX108）；江苏省社会科学

基金重点项目“生成式人工智能的伦理风险及治理对策研究”（23ZXA001）；江苏高校哲学社会科学研究重大项目

“江苏省科技创新的伦理治理体系构建研究”（2023SJZD114）。

作者简介：薛桂波，南京林业大学马克思主义学院教授，博士，硕士生导师，东南大学道德发展研究院研究员，主要

从事技术伦理研究。

①OpenAI推出AI系统，将文本转换为逼真的视频[EB/OL].（2024-02-10）[2024-12-10].https：///s?

id=1818006825475957257wfr=spiderfor=pc.

②任鹏，颜维琦.生成式人工智能“飞入寻常百姓家”[N].光明日报，2023-07-08（4）.

—1—

《南京林业大学学报（人文社会科学版）》

2025年第1期

关注如何模拟数据的生成过程，不仅可以进行分类或预测，而且能够生成新的数据样本，如文

①

本、图像、音频和视频等各种类型的数据。也就是说，生成式人工智能能够识别训练数据中

的模式，学会预测、分类、提供个性化建议或帮助决策，它可以根据用户的提示快速创建新内

②

容。当前，世界主要国家在生成式人工智能创新方面都取得了重要进展，中国将人工智能列

为国家战略并已经成为全球人工智能创新的重要力量之一，在自然语言处理、计算机视觉、智

能机器人等领域取得重要突破，不断推动人工智能技术的创新发展，百度公司的“文心一言”

③

和科大讯飞公司的“星火”等大语言