生成式人工智能带来的伦理困境及治理探究.pdf

2024年第6期公共治理与安全

生成式人工智能带来的伦理困境及治理探究

景君学范洋露

兰州理工大学马克思主义学院，甘肃，兰州，730050

摘要：[研究目的]以ChatGPT为代表的生成式人工智能在应用中日渐表现出通用的潜力，

其虽凭借自身的超大算法功能、超大模型参数、强大的扩展功能等技术实现了对人类部分

脑力劳动的取代，但亦带来了一系列的伦理问题，例如人类主体地位缺失、人伦关系危机、

算法歧视、用户隐私泄露等，这种困境催生了应对伦理危机、构建新型人机关系的时代诉求。

[研究方法]立足于马克思科学技术观及科技伦理思想及国内外学者关于生成式人工智能

应用、人机交互关系等方面的现有研究成果，分析生成式人工智能快速发展所带来的伦理

问题，从资本逻辑、技术构成和技术应用的角度探究伦理困境之源，并对伦理困境进行对

策探究。[研究结论]新时代要实现生成式人工智能的良性发展，治理好它带来的伦理困境，

需要从坚持马克思主义理论指导下的科技伦理观、坚守技术创新领域的伦理红线、推动构

建技术开发者与人文学者的沟通平台、在技术发展中融入人文思想等措施入手摆脱伦理困境，

实现人与人工智能的良性互动。

关键词：生成式人工智能；ChatGPT；科技伦理；伦理困境；伦理规范

中图分类号：B82-057；TP18 文献标识码：ADOI：10.19881/j.cnki.1006-3676.2024.06.09

随着科学技术的发展，其所带来的伦理问题也不断困扰着人类。从第一次工业革命至今，

机器已经实现了对大部分体力劳动的取代，而从20世纪兴起的人工智能技术则开始逐步实

现对人类智能的部分取代。在当代，由OpenAI所发布的ChatGPT给人类社会带来了高效信

息集成的同时，也激发了人类对生成式人工智能技术的伦理思考。唯技术论者漠视科学技术

给人类社会所带来的消极影响，片面注重技术所带来的好处，忽视了科技与伦理之间的关系。

人类在科学技术的进步中打开了人工智能的潘多拉魔盒，发现其中隐藏的是对人类社会现有

伦理道德的颠覆，人类的命运受到了严峻的挑战。在人工智能所引领的数字化、信息化背景下，

我们要顺应时代潮流，同时也要重视应对技术发展所带来的伦理问题。

一、生成式人工智能发展下的伦理困境显现

2023年3月，OpenAI推出了ChatGPT-4，GPT-4除了在模型参数上远超前几代的人工智

作者简介：

景君学，男，1970年生，博士，教授，研究方向为生态哲学、技术哲学及西方马克思主义。

范洋露，男，2001年生，硕士研究生，研究方向为马克思主义发展史。

69

2024.6

2024年第6期公共治理与安全

能，还具备了更加类人化的强大功能。以往的生成延伸至人类思维创作领域，或会引发人类思维的主

式人工智能模型只能以文本的输入输出作为工作形体地位缺失，养成“懒人”思维。用户在使用人工

式，但GPT-4在此限制上完成突破，能够做到理解智能的过程中，可能会过分依赖其输出的信息而减

文字含义并完成文字的图片转换，实现了图片和文弱自身独立思考的能力。长此以往，人类可能会成

本的输入输出。ChatGPT类人化