人工智能伦理风险评估的指标与方法研究.pdfVIP

智能论坛

AI-VIEW

2025年第2期

人工智能伦理风险评估的指标

与方法研究

□/

文郑圳，邓伯军

（南京航空航天大学网络空间公共安全研究中心（智库），南京211106）

摘要：人工智能作为“外来物”融进社会系统，不可避免地对现有社会体系造成冲击与影响，

围绕其产生的伦理风险接踵而至，亟须加强人工智能伦理风险的评估研究，以提高风险防范

的能力与水平。人工智能伦理风险评估是人工智能风险评估的价值之维，评估工作的复杂性

特质要求在实操工作中需树立全面性评估思路，行之有效的评估框架应以一般性科技准则为

基底，以特异性人工智能准则为骨架，以详尽性场景操作要求为血肉，在宏观、中观、微观

视野下建构起一、二、三级指标，搭建形成以“5＋10＋X”为框架的伦理风险评估指标体系，

并根据指标体系选取测试、验证、审查、持续监控的评估方法，确保人工智能在发展的道路

上不偏离伦理的轨道，始终与人类的价值与利益保持一致。

关键词：人工智能；伦理风险；评估指标；评估方法

中图分类号：B82；TP18文献标志码：A文章编号：2096-5036(2025)02-0080-13

DOI：10.16453/j.2096-5036.202512

0引言和互联网在过去30年间已经对世界造成的改

变”[1]。在此情境下，不禁使人追问：作为一种

人工智能并非以“忽如一夜春风来”的态变革性技术，人工智能所带来的仅仅只有好处

势席卷日常生活，属于人工智能的时代早已来吗？美国白宫于2016年10月发布了名为《时

临，“润物细无声”才是人工智能的存在状态。刻准备着：为了人工智能的未来》（Preparing

人类无时无刻不在与人工智能打交道：人脸识fortheFutureofArtificialIntelligence）

别、指纹解锁、无人驾驶汽车、医学诊断、个的研究报告，该报告指出：一方面，人工智能

性化推荐、机器翻译等都是常见的人工智能便技术带来了巨大的社会价值，例如在提高生产

捷化产物，人工智能的广泛使用对人类的生产效率、改善医疗水平、增强交通运输安全、优

生活产生了根本性的影响。基于此，杰瑞·卡化教育学习等方面的重大贡献；另一方面，人

普兰说道：“在未来几年内，机器人与人工工智能技术带来了巨大的社会挑战，例如在冲

智能给世界带来的影响将远远超过个人计算击市场就业、侵犯个人隐私、生成偏见歧视、

基金项目：江苏省社科应用研究精品工程科技伦理（科研诚信）专项（23SLB-18）

80

人工智能伦理风险评估的指标与方法研究

左右决策结论等方面的重大影响。然而，意识1.1人工智能伦理风险评估的总特点

到并指出可能存在的负面影响远远不够，由人由人工智能的发展与应用带来的社会效应

工智能的发展与应用牵带而来的诸多问题实质“不仅包括技术正常使用情况下的非主观意愿

涉及社会伦理问题，因而以人工智能为代表的后果，还包括因技术变革而引发的社会矛盾与

现代技术的发展与人类生存的伦理审视成为了冲突”[4]，因此对人工智能潜在的风险进行识

现代伦理学关注的核心议题[2]。例如，汽车自别与预测变得至关重要，尤其要在评估中引进

动驾驶安全事故频出责任在谁？监测头环是否伦理视角。然而，在实际操作中有效完成人工

侵犯学生隐私？ChatGPT的广泛应用是否会智能伦理风险的评估工作并非轻而易举，多方

造成意识形态的进一步渗透等。因为有人工智因素共同交织