算法伦理审查的逻辑认知及实践路径.pdfVIP

2023年1月海南大学学报（文社会科学版）Jan.2023

第41卷第1期JOURNALOFHAINANUNIVERSINITIESSOCIALSCIENCESVol.41No.1

中国改革发展研究

算法伦理审查的逻辑认知及实践路径

张旺

（中共湖南省委党校科技与生态文明教研部，湖南长沙410006）

［摘要］算法作为人工智能技术的重要组成部分，已经成为决定“人机共生”关系走向的关键要素，同时

也带来了人类认知上的“黑匣子”，限制了人类理解和使用技术的能力，引发了技术使用过程中的各种问题，导

致了人类对算法的不充分信任。算法伦理审查的价值规范体系，包括算法伦理审查的标准化、制度化和结构

化。发展负责任的算法，强化算法伦理审查的理性认知并建构实用框架，推进算法透明度、可解释性以及公众

满意度等伦理维度指标落地，可以有效消解算法歧视和隐私暴露等问题，更好地推动算法伦理审查机制的健

全完善。

［关键词］算法风险；道德阈限：伦理审查：伦理治理

[中图分类号］N02[文献标志码］A[

[DO1]10.15886/j.cnki.hnus003

一、问题的提出：算法风险治理需要伦理审查

“风险社会是一个高度技术化的社会，科学技术的高速发展既是风险社会的特征，也是风险社会的

成因。人工智能技术的广泛应用，给人们生产生活的诸多领域带来了颠覆性变革，推进了方式流程的

自动化、智能化进度，而且在很多细化领域可以用于规避风险、提升安全系数。如在网络安全领域，AI网

络安全系统可以将识别和消除网络攻击的平均时间从101天减少到几个小时2)。伴随人工智能技术的

快速发展，其赋能的应用场景越来越多，算法作为人工智能技术的重要基石之一，重要性不言而喻，但其

带来的不确定性和不可控性也日益增多，产生了算法偏差、算法黑箱、算法垄断等诸多风险，这些风险辐

射到政治、经济、科技等诸多领域，引发了公众对算法风险问题的恐慌焦虑。

近年来，学术界对算法风险的伦理反思逐步深人，涵盖哲学、管理学、传播学等多学科领域，研究成

果主要聚焦算法本体、治理向度及监管审查等方面。

第一，就算法本体的审视向度而言，着重从算法设计中存在的伦理问题探讨算法风险与设计者之间

的逻辑关联。李伦、孙保学（2018)认为，人工智能研发者和应用者应当使人工智能的设计合乎道德，避

免恶意设计，并确保人工智能的善用，使之造福人类社会，同时提出人工智能伦理研究包括人工智能道

德哲学、人工智能道德算法、人工智能设计伦理和人工智能社会伦理四个维度。蓝江（2018)探讨了人工

智能的“电子人格”和波兰尼论，分析了人工智能的伦理主体反思问题。苏令银（2018)探讨了人工智

能道德主体争论的主要分歧，以及人工智能道德主体和道德责任问题。段伟文（2017）结合有限自主与

交互智能体的概念，阐释了人工智能伦理研究与相关伦理规范和标准。孙伟平（2017）认为人工智能应

及早确定其价值原则，从而确保对这一新技术行使人类表决权。徐英瑾（2017）探讨了人工智能技术与

武器的结合可能导致的伦理后果，认为人工智能与武器系统的结合反而会增加未来战争的伦理指数

[收稿日期]2021-10-12

［基金项目】国家社会科学基金一般项目（19BZX040）；国家社会科学基金重大项目（21ZD063）；湖南省社会科学基金智

库专项重点项目（19ZWB15）

【作者简介】张旺（1982-），男，吉林松原人，中共湖南省委党校（湖南行政学院）科技与生态文明教研部副主任，副教授，博

士，硕士生导师，主要从事科技哲学、科技伦理研究。

118

张旺：算法伦理审查的逻辑认知及实践路径

孟伟、杨之林（2018)从现象学伦理学的新视角探讨了人工智能的伦理难题，指出人工智能技术的一般性

伦理问题指向技术设计和使用等主客体层面，人工智能技术的特殊伦理问题则指向智能体可能具有的

伦理自主性。

第二，就算法风险的治理向度而言，主要从算法风险的伦理治理角度出发，探讨伦理治理的可行性

和必要性。算法风险作为一种具有鲜明特征的“现代风险”，学者从众多角度