人工智能中的性别不平等与算法规制.pdf

人工智能中的性别不平等

与算法规制∗

———基于文化堕距视角的分析

周旅军吕鹏

内容提要在形形色色的人工智能技术应用场景中,存在着大量强化性别不平等的现象。

如何改变这一状况,充分利用新兴技术来促进性别平等措施的落地,是算法规制的重要内容。

本研究从数据、算法和算力等方面揭示人工智能生态中存在的性别不平等问题,并透过文化堕

-

距的视角,解析对性别不平等问题进行治理的现实困境;进而从弥合规范堕距、制度政策堕

-

距、认知能力堕距的维度,提出推进性别不平等治理的算法规制路径。

关键词人工智能性别不平等文化堕距算法规制

引言

作为新质生产力发展的核心要素,人工智能已经成为推进新时期产业转型升级和竞争格

-

局重构的重要动力。其中,生成式人工智能大模型,如GPT4、文心一言等,展现出令人瞩目

的创新能力。这些技术不仅在科技行业引起广泛关注,也在全球商业界、学术界和社会中产生

广泛而深刻的影响,引发激烈的伦理和政治争论。例如,由于对AI“失控”的担忧,生命未来研

究所(FutureofLifeInstitute)发起签署的公开信建议全球AI实验室在至少六个月内暂停训练

-

超出GPT4水准的AI系统。国家互联网信息办公室在2023年7月颁布《生成式人工智能服

务管理暂行办法》,作为全球范围内针对生成式人工智能的首部专门立法,显示出中国对此类

新兴技术进行规制的领先态度。

然而,尽管与人工智能有关的法律、伦理和政策倡议层出不穷,但关注重点更多落在推动

∗本文系国家社会科学基金一般项目“人工智能促进社会性别平等研究”(项目号:20BSH040)、中国社会科学院实验室

孵化专项资助项目“社会计算与数字社会前沿研究”(项目号:2024SYFH010)的阶段性成果。

95

人工智能中的性别不平等与算法规制

科技进步或者宣示伦理原则上,性别不平等依然是其中很少被正面充分阐述的内容。以得到

广泛应用但普遍存在性别不平等问题的推荐算法为例,尽管相比征求意见稿,正式发布的《互

联网信息服务算法推荐管理规定》新增未成年人和老年人的特定条款,但仍未对性别偏见和

女性权利相关的内容进行明确规定。

但是,性别不平等是人工智能必须面对的真问题。数据、算法和算力是人工智能发挥作用

的基础要素。机器学习作为实现人工智能的主要技术,最基本的做法是基于算力使用算法来

解析数据,从中学习知识,进而生成预测或决策模型。与标准化的软件质量管理流程从白盒测

试的角度可以发现和处理代码逻辑中的技术缺陷不同,人工智能的模型训练往往处于黑箱状

态,并无人工干预。因此,人工智能的技术过程,往往表现出客观中立的面貌。然而,国内外已

有的研究发现和现实案例表明,数据、算法和算力三要素的开发和利用过程均有可能存在各种

社会偏见。性别偏见正是其中一个常常被忽视,却真实存在的问题。技术的误用或缺位,正导

致不同性别的群体在数字社会的各个方面变得越来越不平等。

①

不过,对技术的社会控制存在着科林格里奇困境(Collingridge’sDilemma),即在技术发

展的早期阶段,当它可以被控制时,人们虽然对其有害的社会后果有所了解,但当时掌握的信

息还不足以证明要控制其发展;而当这些后果明显时,控制已经变得昂贵而缓慢。人工智能治

理亦是如此,面临着诸多的现实困境。对新兴技术的治理需要国家、市场、社会和文化之间的

不断调适。本文首先从数据、算法和算力方面揭示人工智能生态中存在的各种性别不平等问

题,并透过文化堕距的理论视角解析新兴技术治理的