生成式人工智能应用下网络伦理风险治理探究.pdfVIP

社会治理

生成式人工智能应用下网络伦理风险治理探究

王春婷

 （山东师范大学马克思主义学院，山东济南250358） 

摘要：文章首先分析生成式人工智能应用风险的现实表现；其次简述治理网络伦理风险的伦理理论，探究应对生成式

人工智能风险应运用的伦理原则；最后总结治理生成式人工智能应用风险的路径，即提高研发公开透明度、强化行业伦

理自律自觉以及推动伦理教育和培训。

关键词：生成式人工智能；网络伦理风险；尊重人权原则

伴随计算机技术与数据科学的发展，生成式人工智在拥有和使用现代信息技术方面存在的差距”。人工智

能应运而生。美国Open AI公司的GPT模型逐渐成熟，国内能技术是工具，依赖算法模型而非理解推理得出结论，

百度“文心一言”、讯飞“讯飞星火”等大语言模型也相继如果用于开发人工智能算法和模型的训练数据存在偏

发布，这使得生成式人工智能在各个领域都得到了广泛见，那么由此训练出的算法和模型也存在偏见，这在应

应用。然而，与其带来的便利和创新相对应的是，网络伦用中便可能导致歧视性的结果。其次，生成式人工智能

理风险逐渐浮现。生成式人工智能在积极推动经济社会所生成的对话可能会向用户提供不准确或误导性的回

发展的同时，日益引发侵犯隐私、算法偏见以及与人类伦应，从而导致错误信息的传播。生成式人工智能可以使

理冲突等传统伦理价值的问题。伦理风险已逐渐成为人用户在信息检索中更加快捷，极具成瘾性。长此以往，用

工智能技术研发与应用的关注焦点。因此，确保生成式人户获取信息的渠道变窄，使“数字鸿沟”从城乡差距、年

工智能的合法运用、符合当今社会道德成为迫切任务。龄差距转变为用户差距，人与人之间的信任关系变得更

一、生成式人工智能应用风险的现实表现加割裂。

技术迭代促进社会发展进步，生成式人工智能应用（三）人类伦理关系冲突愈演愈烈

的确带来了许多令人惊叹的结果，但其引发的一系列问人工智能作为一种创新技术，其在模仿人类智能的

题不容忽视。基础上，正在越来越多地参与人类社会的各种实践活动。

（一）数据隐私安全和可信度受到挑战这一现象引发了一个备受关注的问题：人工智能对以人

生成式人工智能大模型及其预训练需要收集和处理类为主体的社会伦理体系将会带来怎样的影响？例如，

大量的用户数据，其中可能包含技术和商业保密数据以生成式人工智能的应用引发了关于社交交互的问题。基

及国家安全数据，因此容易产生隐私数据和敏感个人信于深度合成等技术，虚拟人、聊天机器人等生成式人工智

息被滥用的风险。用户在使用生成式人工智能工具时，不能为用户提供了有趣的、仿真的社交方式，满足了他们的

经意间输入跟工作内容相关的私密数据，进一步加剧了情感需求。然而，这也引发了一种担忧：人工智能或机器

数据隐私泄露的风险。由于生成式人工智能具有创建逼是否可以真正代替人类的亲情和家人的陪伴？正如弗洛

真文本、图像甚至视频的能力，与此同时也催生了假新闻里迪等所描述的，为了实现建立一个良好社会的愿景，人

泛滥、深度伪造等问题。这种人工智能技术被滥用的可能们希望AI帮助人类实现自我、成为人类智能的代理、提升

性非常高，如果无法很好地管控，可能会对人们的信任、人类能力、提升社会凝聚力与协作，但同时这也蕴藏着责

社会的稳定甚至制度的维系产生负面影响。任缺失、失控、侵蚀人类自决能力等风险。

（二）算法偏见和歧视加剧“数字鸿沟”二、治理网络伦理风险的伦理理论选择

中国国家信息中心“中国数字鸿沟研究”课题的研随着科技的快速发展和互联网的普及应用，网络伦

究成果指出，所谓“数字鸿沟”，是指“不同社会群体之间理风险日益突出，如何治理网络伦理风险成为当今社会

作者简介：王春婷2003女汉族山东潍坊人主要研究方向思想政治教育

（—），，，。：。

108