医疗AI必须以“人机对齐”为前提.pdfVIP

86Opinions洞见

医疗AI必须以“人机对齐”为前提

文|王江平

近年来，AI技术如潮水般涌进人类价值观、社会规范完全一致，合规标准。

各个领域，在带来效率革命的同时，本质上是“技术人性化”的准入要求。二是信任性。只有当AI的建

也暴露出隐私泄露、歧视偏见、算它不是简单的技术调试，是一场涉议符合医学伦理，人类才能对其建

法滥用等伦理挑战。人们开始追问：及技术、伦理、法律的系统性工程。立深度信任，才敢对其托付生命健康。

AI能否真正造福人类？如何避免其早在1960年，诺伯特·维纳在三是人类和谐性。AI在应用过

成为脱离掌控的“黑箱”？《自动化的道德和技术后果》中就提程中可能偏离人类的真实需求，如

我国非常重视这一问题，提出出了这一理念。随着AI技术不断发医疗AI为“最大化患者生存率”可

《全球人工智能治理倡议》，出台《科展，人机对齐的可操作性、有效性能忽视治疗痛苦，情感陪伴机器人

技伦理审查办法（试行）》等一系列在实践中得到了强有力的证明，逐可能导致用户过度依赖、人际疏离

政策法规。工信部正在研究编制人渐成为破解AI伦理困境的“钥匙”。等。人机对齐要求在算法设计中加

工智能科技伦理服务管理办法。这在医疗领域，人机对齐有三大入人性考量、目标校准，确保技术

一系列动作，标志着我国AI伦理治核心作用，分别是可解释性、信任真正服务于人类福祉，而非单一指

理进入了体系化推进阶段。性和人类和谐性。标的“冰冷计算”。

医疗是AI应用的重要领域，医一是可解释性。对齐的AI能够有人担心，人机对齐会束缚技

疗AI只有解决了人机对齐问题后，清晰展现决策逻辑，让医生和患者术创新，其实恰恰相反——它是创

才有望成为人类可以信赖的医疗助都理解“黑箱”背后的依据。例如新的催化剂。对齐原则一方面可以

手。上海交大“明岐”大模型采用“透推动大模型更加符合人类价值观，

明诊断舱”机制，提供影像标记、另一方面也促进了人工智能技术进

构建“技术向善”生态诊断路径决策树和相似病例参考库步，通过透明化、伦理化、人本化

从技术路线看，人机对齐正在作为决策证据，从而打消医患疑虑。的AI系统设计，构建“技术向善”

成为治理AI伦理问题的基本法则。欧盟《人工智能法案》明确要求，的可持续发展生态。可以说，人机

什么是人机对齐？简单来说，高风险AI系统（医疗AI属此类别）对齐与技术创新共同构成AI发展的

人机对齐就是通过技术手段与伦理必须提供“技术文件”和“透明度信双轮驱动力，确保技术既高效又可靠。

框架，让AI的目标、行为和输出与息”，将可解释性从技术选项升级为当前，人机对齐技术日益广泛

中国经济周刊CHINAECONOMICWEEKLY

87

WWW.CEWE