从统计学与心理学的视角看可解释性人工智能.pdf

Vol.48No.4计算机与数字工程总第366期

872ComputerDigitalEngineering第48卷

2020年第4期

从统计学与心理学的视角看可解释性人工智能∗

石荣刘江

（电子信息控制重点实验室成都610036）

摘要人工智能给出结果的可解释性是人工神经网络用户在实际应用中十分关注的一个问题。针对这一问题，对

DARPA设立的可解释性人工智能项目的主要研究内容进行了概要性解读，首先从统计学的视角对人工神经网络的任意函

数逼近与统计回归的本质进行了分析，指出了人工神经网络所给出结果的概率统计意义。在此基础上从心理学的视角对人

与机器之间沟通与说服的形式与过程进行了剖析，展示了心理学在人机交互与人机信任建立过程中所发挥的重要作用。这

对于更加理性地看待人工智能的发展以及人工神经网络的应用边界条件具有重要的参考意义。

关键词可解释性人工智能；人工神经网络；专家系统；深度学习；统计学习；任意函数逼近

中图分类号TP183；B84DOI：10.3969/j.issn.1672-9722.2020.04.025

ExplainableArtificialIntelligencefromPerspectiveofStatisticsand

Psychology

SHIRongLIUJiang

（ScienceandTechnologyonElectronicInformationControlLaboratory，Chengdu610036）

AbstractTheexplainableresultfromartificialintelligenceisverysignificantlyconcernedbyusersintheapplicationofartifi⁃

cialneuralnetworks.Inthispaper，themainresearchcontentsoftheexplainableartificialintelligenceprojectsetupbyDARPAare

brieflyintroduced.Firstly，theessenceofarbitraryfunctionapproximationandstatisticalregressionforartificialneuralnetworkis

analyzedfromtheperspectiveofstatistics.Theprobabilisticandstatisticalsignificanceoftheresultsgivenbyartificialneuralnet⁃

workispointedout.Theprocessofcommunicationandpersuasionbetweenhumanandmachinesisanalyzedfromtheperspectiveof

psychology，andtheimportantroleofpsychologyinhuman-machineinteractionandthetrustestablishmentisdemonstrated.Itis

thesignificantreferencefortheartificialintelligencedev