医疗人工智能应用的法律挑战及其治理.pdf

西北大学学报（哲学社会科学版）

2024年3月，第54卷第2期,Mar.,2024，Vol.54,No.2

JournalofNorthwestUniversity(PhilosophyandSocialSciencesEdition)

JNWU

【人工智能与社会发展】

医疗人工智能应用的法律挑战及其治理

石佳友,徐靖仪?

（1.中国人民大学法学院，北京100872;2.北京大学医学人文学院，北京100191）

摘要：医疗人工智能的高效性和先进性对公共卫生和医疗保健领域的技术创新产

生了深刻影响。医疗人工智能有望使公民更好地享有健康权，并对整个公共卫生领域带

来神益，但同时也需注意医疗人工智能的发展速度远超对其监管框架的部署规划，会对个

人权利和公共健康构成严重挑战,函需法律作出相应回应。从相关当事人的尊严和自主

性的保护、健康数据处理中的隐私和个人信息保护、医疗人工智能应用的公平性和透明

度、问责制度和归责原则等方面分析了医疗人工智能应用的法律挑战，并从明确医疗人工

智能的治理原则,建立包含硬法和软法在内的初步立法框架,构建科学、合理、高效的监管

体制等角度构思了我国医疗人工智能的治理框架。

关键词：医疗人工智能；自主性保护；个人信息保护；公平性和透明度；问责制度

中图分类号：D923文献标识码：AD0I:10.16152/ki.xdxbsk.2024-02-009

党的二十大报告中提出：“推进健康中国建设。”[114把保障人民健康放在优先发展的战略位置，完

善人民健康促进政策。《“健康中国2030”规划纲要》和《中华人民共和国基本医疗卫生与健康促进法》

（以下简称《基本医疗卫生与健康促进法》）均强调了保障公民健康权的重要性。全民医疗覆盖作为联

合国2030可持续发展议程的重要一环,对医疗服务的可获得性、可负担性、可接受性和可及性均提出了

较高要求。习近平总书记强调：“人工智能是新一轮科技革命和产业变革的重要驱动力量,加快发展新

一代人工智能是事关我国能否抓住新一轮科技革命和产业变革机遇的战略问题。”[2]近年来，人工智能

的蓬勃发展对医疗领域的技术创新产生了深刻影响，人工智能在医疗卫生领域应用的不断深化有助于

实现与健康相关的可持续发展目标，并让公民更好地享有健康权。自1955年首次使用“人工智能”

（AI)一词以来，人们曾多次尝试对其进行定义。欧盟委员会认为，鉴于确定人工智能系统的构成对于

收稿日期:2023-10-05。

基金项目：中国人民大学中华法治文明高等研究院2023年项目“民法典与中华法治文明的发展”。

作者简介：石佳友，法学博士，中国人民大学教授，民商事法律科学研究中心专职研究员，从事民商法律研究

说明：北京大学医学人文学院博士后、助理研究员徐靖仪对本文具有同等贡献。

OForawide-rangingoverviewofattemptstodefine“artificialintelligence,seeSamoilS,LopezCoboM,GomezE,etal.

AIWatch:DefiningArtificialIntelligence-Towardsanoperationaldefinitionandtaxonomyofartificialintelligence.Euro-

peanCommissionJointResearchCentre,2020.

92·西北大学学报（哲学社会科学版)2024年第2期

新人工智能框架下的法律责任分配至关重要，因此应明确地定义人工智能系统的概念①。在设定相关

概念时，不可将其范围设定得过于宽泛，这可能会给人工智能系统的开发商、运营商和用户带来法律上

的不确定性,并最终导致过度监管。

基于经合组织的定义，一般而言，人工智能意味着数据、算法和计算能力，它可以在无需人类直接

帮助的情况下执行通常需要人类认知的行为。《欧盟人工智能法案》可能成为世界上第一部系统的人

工智能立法,该草案第3条第1款规定“………人工智能系统指使用特定技术和方法在附件一中列出的

软件,其可以针对一组给定的人类定义的目标，生成影响其交互环境的内容、预测、建