协同构建 AI 系统的解释使用数据血缘关系-计算机科学-人工智能-大语言模型.pdfVIP

协同构建AI系统的解释使用数据血缘关系

Jan-ChristophKaloFinaPolat

UniversityofAmsterdamUniversityofAmsterdam

Amsterdam,NetherlandsAmsterdam,Netherlands

j.c.kalo@uva.nlf.yilmazpolat@uva.nl

ShubhaGuhaPaulGroth

UniversityofAmsterdamUniversityofAmsterdam

Amsterdam,NetherlandsAmsterdam,Netherlands

s.guha@uva.nlp.t.groth@uva.nl

本摘要然而，新兴的文献认为解释不仅仅是一个输出或

甚至是在这种输出上的交互式用户界面，而是一个过

译现代AI系统是包含多个组件和数据源的复杂工作流

程中，解释者和被解释者共建共同构建一个解释[22]。

中程。数据来源提供了查询并潜在解释这些系统输出的

通过类比，可以想想学生和老师如何互动以帮助找到

1能力。然而，来源信息往往过于详细且对试图理解AI

v学生需要理解新概念的解释。

1系统的用户而言缺乏语境。在此工作中，我们提出了

6一个愿景，即一个能够与用户合作共同构建既对用户因此，在这项工作中，我们描述了利用来源信息

7与用户共同构建解释的解释代理的愿景。我们通过一

7有用又基于数据来源解释的交互式代理。为了阐述这

1个初始原型来说明这一愿景，该原型结合了来源信息

.一愿景，我们展示了：1)这样一个代理的初始原型；2)

7和大型语言模型（LLMs），创建了一个用于复杂机器

0一种基于用户模拟和大型语言模型作为评判者的可扩

5展评估框架。学习过程解释共构的环境。重要的是，我们讨论了一

2种可以对其进行全面评估的方法。

:

v

i

xKeywords

r2相关工作

a

共同构建解释、来源、交互性、XAI

可解释人工智能：.关于可解释的人工智能有大

量的研究工作，这些工作已经被最近的综述全面覆盖

1介绍了[24,25,16,18]。与基于特征的解释不同，在基于特征

的解释中目标是识别哪些输入特征对机器学习模型的

提供关于复杂AI和数据科学系统如何产生结果的解