- 1、本文档共9页,可阅读全部内容。
- 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
- 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
Proceedings
ProceedingsoftheThirty-SecondInternationalJointConferenceonArtificialIntelligence(IJCAI-23)SurveyTrack
PAGE
PAGE6666
BenchmarkingeXplainableAI-ASurveyonAvailableToolkitsandOpenChallenges
PhuongQuynhLe1,MeikeNauta1,2,VanBachNguyen1,ShreyasiPathak1,2,
Jo¨rgSchlo¨tterer1,3,4andChristinSeifert1,31UniversityofDuisburg-Essen,Germany2UniversityofTwente,theNetherlands3UniversityofMarburg,Germany
4UniversityofMannheim,Germany
{phuongquynh.le,vanbach.nguyen}@uni-due.de,{m.nauta,s.pathak}@utwente.nl
{joerg.schloetterer,christin.seifert}@uni-marburg.de
Abstract
ThegoalofExplainableAI(XAI)istomakethereasoningofamachinelearningmodelaccessibletohumans,suchthatusersofanAIsystemcanevaluateandjudgetheunderlyingmodel.DuetotheblackboxnatureofXAImethodsitis,however,hardtodisentanglethecontributionofamodelandtheexplanationmethodtothefinaloutput.Itmightbeunclearonwhetheranunexpectedoutputiscausedbythemodelortheexplanationmethod.Explanationmodels,therefore,needtobeevalu-atedintechnical(e.g.fidelitytothemodel)anduser-facing(correspondencetodomainknowledge)terms.Arecentsurveyhasidentified29differ-entautomatedapproachestoquantitativelyevalu-ateexplanations.Inthiswork,wetakeanaddi-tionalperspectiveandanalysewhichtoolkitsanddatasetsareavailable.Weinvestigatewhichevalu-ationmetricsareimplementedinthetoolkitsandwhethertheyproducethesameresults.Wefindthatonlyafewaspectsofexplanationqualityarecurrentlycovered,datasetsarerareandevaluationresultsarenotcomparableacrossdifferenttoolkits.OursurveycanserveasaguidefortheXAIcom-munityforidentifyingfuturedirectionsofresearch,andmostnotably,standardisationofevaluation.
Introduction
ExplainableAI(XAI)hasgrownintoitsownresearcharea,mainlyduetotheemergenceofdeeplearning,th
您可能关注的文档
- 关于保护儿童在使用人工智能中的联合委员会会议.docx
- 国际机器学习硬件研讨会 (IWMLH).docx
- 会计和财务报表自动分析系统.docx
- 计算机科学教师正在适应ChatGPT Copilot AI工具.docx
- 加速人工智能 (AI) Intel Advanced Matrix 的工作负载 扩展(英特尔 AMX).docx
- 简化 GitHub 仓库的访问控制和访问治理.docx
- 具有广泛可用模型权重的双用途基础人工智能模型”的评论请求.docx
- 开始一个 GitHub 代码库的十个创意,助您打入数据科学领域。.docx
- 开源软件 Omnia 可以在同一系统上运行人工智能、高性能计算和数据分析.docx
- 开源软件推荐 使用 Github.docx
文档评论(0)