基于伦理嵌入的人工智能新型风险治理体系建构及治理路径解析.docx

?

?

基于伦理嵌入的人工智能新型风险治理体系建构及治理路径解析

?

?

孙丽文李少帅

[摘要]人工智能在释放巨大潜能、产生经济价值和带动广泛的产业变革同时，也产生了诸多风险。而现有治理体系难以适应人工智能的高度开放性和不确定性，无法满足风险治理需求，同时人工智能技术应用引发的新兴风险治理议题超越了既有治理体系范围，传统风险治理体系急需向以伦理嵌入为关键支撑的新兴风险治理体系迁移。从伦理嵌入视角出发，构建了新型风险治理体系，摒弃了传统以政府为绝对主导的弊端，采取多主体参与的协同治理模式，强调风险治理主体之间的“垂直连通”和“水平协商”，并充分发挥伦理道德能动作用，将治理触角渗透进人工智能技术创新到规模化应用的诸多阶段，治理范围更加宽泛，治理方式更加灵活多样。同时，伦理道德通过内嵌于人工智能技术研发、技术测试、技术转移和技术产业化四个阶段，形成兼具分段治理和整体协同的风险治理路径。研究旨在降低人工智能风险等级，为发展负责任的人工智能提供理论指导和有益启示。

[关键词]风险治理;伦理嵌入;责任式创新;科技向善;人工智能

[中图分类号]F204[文献标识码]A[文章编号]1673-0461（2021）07-0022-07

一、引言

作为21世纪最具深远影响的新兴技术[1]，人工智能无疑拥有巨大的潜力和价值。人工智能技术的整体突破性创新使其跨越工业化应用红线，被广泛地应用于人类的生产生活实践，持续催生新商业模式、新经济业态，与实体经济融合程度也持续加深，成为极具发展前景的经济新动能。但在人工智能与社会生态系统交互性持续加深的同时，极具变革性的人工智能也引发了数据安全、隐私保护、算法歧视等风险问题[2-3]，加剧了人类和人工智能技术之间的矛盾。如何应对和化解人工智能风险危机，避免其陷入“科林格里奇困境”[4]，实现经济效益和风险防范的合理平衡，成为目前对实践与研究都具有挑战性和突破性的议题。

现实层面，由人工智能引致的数据安全、隐私保护、算法歧视等风险已经成为国际社会近几年关注的焦点问题，并引发了全球范围内对人工智能技术创新及其产业化应用影响的伦理反思和讨论[5-6]，基于伦理嵌入的风险治理开始从幕后走向前台，成为应对和化解人工智能风险的关键考虑。在此背景下，从政府到企业界再到学术界，掀起探索制定人工智能伦理原则与框架的高潮。欧盟、OECD、G20、IEEE、英国、德国、谷歌、微软等均从各自的角度提出了相应的人工智能伦理原则或框架，共同加强人工智能知识的共享和可信人工智能的构建。虽然各界已经达成基于伦理观的人工智能风险治理共识，但是由于既有治理方法、治理工具等在面向人工智能等新兴技术风险治理时存在伦理缺失，对于基于伦理嵌入的风险治理原则、主体、模式、工具等关键问题仍缺乏系统性实践探索。

理论层面，人工智能技术创新及产业化应用的风险虽然同样引起了道德伦理和风险治理的相关讨论，但是整体理论研究进程明显滞后，难以成为风险治理实践的“及时雨”。当学者们将目光停留在如何将现有治理经验“移植”和“嫁接”于人工智能风险治理时，基于伦理嵌入视角的相关研究正不断开辟风险治理新空间，勾勒出适用于人工智能风险治理体系的新图景，由此可见，从理论而言，伦理嵌入下的风险治理是构建人工智能新型风险治理体系的关键支撑。目前，学者们围绕风险治理流程开展了探索性研究，闫坤如从技术研发与设计理论出发，认为人工智能风险与技术设计存在较强关联，当设计不完备、设计目的与实际结果和使用者需求不相符时都会产生风险，因此人工智能的研发设计应思索其是不是具有道德行动者地位和“道德嵌入”（moralembedding）合理性等问题，应强调设计者的责任意识和体现“科技向善”（technologyforgood）[7]。蒋洁认为需要从算法、数据和社会影响方面对人工智能风险进行系统性的评估，并且强化伦理对于风险治理的作用[8]。张富利基于复杂性范式，认为人工智能技术产业化过程因与资本的耦合而规避了深层次的伦理探讨，带来了硬规则的普遍适用，导致建立在创新与安全之上的传统治理范式难以应对，因此人工智能风险治理急需探索能容纳多维度的伦理治理范式[9]。虽然上述研究成果反映出风险治理不同节点需要关注的重点问题，但是依然无法形成完整且清晰的体系框架。对于伦理嵌入下的新型风险治理体系包含哪些要素？各要素主要功能是什么？新型风险治理体系如何发挥其作用？风险治理路径如何？诸多此类问题亟待深入研究。

基于此，本文从伦理视角出发，探索和构建基于伦理嵌入的人工智能新型风险治理体系，并且深度解析风险治理路径，促进人工智能经济效益与风险防控的动态平衡，以回应上述问题。

二、基于伦理嵌入的风险治理体系构建

（一）人工智能风险引发的治理挑战

作为引领新一轮科技革命和产业变革的战略性支撑力量，人工智