医疗AI伦理问题应急演练脚本（2篇）.docxVIP

医疗AI伦理问题应急演练脚本（2篇）

第一篇：辅助诊断类医疗AI伦理应急演练脚本

场景设置：某三甲医院呼吸内科门诊，上线“肺结节智能辅助诊断系统”（以下简称AI系统）已3个月，该系统基于10万例胸部CT影像训练，对直径≥6mm结节的识别准确率达95%。演练时间为周三上午门诊高峰时段，当天门诊量约120人，其中15人因体检发现肺部阴影预约CT后就诊。

参演人员及角色：

1.张医生：呼吸内科主治医师，具备5年临床经验，熟练使用AI辅助诊断系统

2.李女士：48岁患者，单位体检CT显示右肺下叶直径5mm磨玻璃结节，无吸烟史，无肺癌家族史

3.王主任：呼吸内科主任，医院伦理委员会委员

4.赵专员：医院AI运维工程师，负责AI系统的日常维护与数据监测

5.刘护士：门诊分诊护士，负责患者引导与信息登记

6.陈律师：医院法务顾问，兼任伦理委员会法律顾问

演练流程：

第一步：AI异常触发应急信号（时间点：9:15）

李女士持CT报告到分诊台，刘护士将其CT影像上传至AI系统，系统自动生成辅助诊断“右肺下叶磨玻璃结节，直径约8mm，恶性概率75%，建议立即行胸腔镜手术切除”。刘护士将报告推送至张医生诊室，同时标注“AI提示高风险”。

张医生接诊李女士后，先查看患者原始CT影像，结合影像科报告（明确标注结节直径5mm），发现AI测量结果与影像科人工测量误差达60%，且恶性概率评估远高于临床常规判断——根据《肺结节诊治中国专家共识》，直径6mm的纯磨玻璃结节恶性概率1%。张医生随即调出AI系统的病例匹配记录，发现系统匹配的10例参考病例均为直径≥8mm的混合磨玻璃结节，无1例直径6mm的纯磨玻璃结节。

张医生立即按下诊室桌面的“AI伦理应急触发键”，系统同时向王主任、赵专员的工作终端推送红色预警信息，预警内容为：“AI系统辅助诊断结果与人工诊断存在重大偏差，疑似训练数据样本匹配错误”。

第二步：现场初步核实与患者安抚（时间点：9:20-9:35）

张医生暂停对李女士的诊断流程，先向患者说明情况：“李女士，您的CT影像在AI系统中的分析结果出现了一些异常，我们需要重新核实结节的大小和性质，请您先在诊室稍等，我会请主任和技术人员一起确认，不会耽误您太多时间”。随后，张医生联系影像科值班医生，加急调出李女士的CT原始薄层扫描数据，人工测量结节直径为4.8mm，与影像科初报一致。

同时，赵专员接到预警后5分钟内赶到诊室，现场调取AI系统的运行日志，发现系统于凌晨3:00完成了一次自动更新——因运维人员误将“混合磨玻璃结节专项训练数据集”覆盖了原有的“纯磨玻璃结节基础数据集”，导致系统对小直径纯磨玻璃结节的识别算法出现逻辑错误，所有直径6mm的纯磨玻璃结节均被错误匹配为大直径混合磨玻璃结节的训练样本，进而给出错误的恶性概率评估。

赵专员当场向张医生和王主任汇报故障原因，并尝试回滚系统至更新前版本，但系统提示“自动更新后原始数据备份已被清除”，回滚失败。王主任立即下令：暂停该AI系统在呼吸内科门诊的所有使用权限，同时通知门诊办公室，将所有已预约AI辅助诊断的患者临时转为人工诊断，由分诊护士逐一告知患者。

第三步：伦理评估与决策制定（时间点：9:40-10:30）

王主任组织临时伦理评估会，参会人员包括张医生、赵专员、陈律师，以及远程参会的伦理委员会其他2名委员。评估围绕以下3个核心伦理问题展开：

1.患者权益保护：李女士因AI错误报告面临不必要的手术风险与心理压力，如何进行补偿与心理干预？是否需要追溯近3天内使用该系统的患者，排查是否存在类似错误？

2.AI责任界定：运维人员误操作导致数据集覆盖，属于人为失误还是系统设计缺陷？医院作为AI使用主体，是否需要承担全部责任？

3.系统整改要求：如何建立AI系统自动更新的双重审核机制？是否需要将AI训练数据的变更纳入伦理委员会前置审查？

评估过程中，张医生提出临床证据：“近3天共有8名直径6mm的纯磨玻璃结节患者使用该系统，其中3人被AI评估为‘恶性概率60%’，已被建议进一步检查，需要立即召回这些患者重新诊断”。赵专员补充说明：“AI系统的自动更新功能默认开启，未设置人工审核环节，主要是为了跟上最新的研究成果，但此次更新的数据集未经过临床专家验证，属于运维人员的工作失误”。

陈律师从法律层面分析：“根据《民法典》第一千二百二十一条，医务人员在诊疗活动中未尽到与当时的医疗水平相应的诊疗义务，造成患者损害的，医疗机构应当承担赔偿责任。AI系统作为医疗辅助工具，其使用责任最终由医疗机构承担，但可以内部追责。同时，根据《医疗卫生机构人工智能应用管理办法（试行）》，医疗机构应当建立人工智能应用质量监控体系，此次事件暴露出监控缺失，需要立即整改”。

最终伦理委员会形成决议：

1.