PHAX：一个面向用户的可解释人工智能结构化论证框架在公共卫生和生物医学科学中的应用.pdfVIP

PHAX：一个面向用户的可解释人工智能结构化论证框架

在公共卫生和生物医学科学中的应用

11,21,2

Baharİlgen,AkshatDubeyandGeorgesHattab

1CenterforArtificialIntelligenceinPublicHealthResearch(ZKI-PH),RobertKoch-Institut,Nordufer20,Berlin,13353,Germany

2DepartmentofMathematicsandComputerScience,FreieUniversitätBerlin,Arnimallee14,Berlin,14195,Germany

Abstract

确保人工智能驱动的公共卫生和生物医学科学系统的透明度和信任不仅仅需要准确的预测——它还要求提供清晰、有背景且

具有社会责任的解释。虽然可解释的人工智能（XAI）在特征归因和模型可解释性等领域取得了进展，但大多数方法仍然缺乏

多样化的健康利益相关者所需的结构和适应能力，包括临床医生、政策制定者以及普通公众。我们介绍PHAX——一个公共

卫生论辩与可解释性框架——该框架利用结构化论证来生成以人类为中心的AI输出解释。PHAX是一个多层架构，结合了默

认推理、自适应自然语言技术以及用户建模，以产生情境感知和受众特定的辩护。更具体地说，我们展示了如何通过支持人

工智能驱动的决策制定、证明建议以及实现跨不同用户的交互对话来增强可解释性。我们通过一些用例展示了PHAX的应用

性，如医学术语简化、患者与临床医生之间的沟通以及政策证明。特别是，我们展示如何将简化决策建模为论证链，并根据

用户的专业知识进行个性化——这既增强了可理解性又提升了信任度。通过将形式推理方法与交流需求相匹配，PHAX对实

现更广泛透明的以人类为中心的公共卫生AI愿景做出了贡献。

Keywords

可解释人工智能,论证解释,结构化论证,用户自适应解释,公共卫生信息学,生物医学自然语言处理

本

译

中1.介绍

1

v随着人工智能（AI）在公共卫生系统中的应用越来越广泛，确保AI输出的可理解性、可信度以及

9针对不同利益相关者的定制化已成为一个关键挑战[1,2,3,4,5,6]。此外，公共卫生文献中最近的呼

0吁强调了可解释的人工智能（XAI）对于促进医疗保健应用中的透明度和专业信任的重要性。从临

0床诊断到疫苗政策，人工智能现在在影响患者、从业人员以及整个群体的重大决策中发挥作用。最

2

2近在公共卫生领域的一些应用，如那些专注于大流行病准备的应用，进一步证明了在流行病学决策

.环境中需要使用XAI[7]。尽管有这些令人鼓舞的方向，许多基于AI的决策背后的原因仍然不透明，

7

0引发了关于问责制、公平性和可解释性的严重关切。

5XAI旨在通过使模型行为更加透明来解决这些问题。然而，大多数现有的XAI方法，如特征归

2属或反事实分析，在提供用户适应性和有效沟通的解释方面存在困难，尤其是在基于语言的应用程

:

v序[8,9]中。

i这些限制在公共卫生和生物医学环境中尤其成问题，在这些环境中，信息必须既技术准确又具

x

r备社会传播性。人机交互(HCI)领域的最新工作也强调了对可解释、负责任且易于理解的系统的需

a求[10]。综合来看，这些挑战要求一种新的可解释性范式，这种范式应该反映人类如何进行推理和

证明决策。

在这种情况下，解释应被视为一个推理过程，而不仅仅是可视化或注释。定义什么是构成解释

本身是一个复杂的问题。正如在[11]中所回顾的那样，解释被以多种方式概念化：作为因果责任的