面向自动驾驶的可解释人工智能技术研究.pdfVIP

专用汽车

前沿技术

ICU

PECULFURPOSE-YEM

面向自动驾驶的可解释人工智能技术研究

边靖伟1陈树星²李振鹏3

1.挚途（上海）智能科技有限公司，上海，200082

2.一汽解放汽车有限公司商用车开发院，吉林长春，130011

3.复旦大学工程应用与技术学院，上海，200082

摘要：以深度学习为代表的人工智能技术推动着自动驾驶产业快速发展，人工智能模型的黑箱问题正成为自

动驾驶汽车全面普及的重要阻碍。可解释人工智能（XAI）技术是解决黑箱问题的有效方法。面对可解释人工智

能技术尚不成熟的现状，阐述了面向自动驾驶的可解释人工智能定义，并对相关案例进行了剖析。提出了面向自

动驾驶的可解释人工智能技术框架，对其核心组成要素进行了深入阐释。系统性分析了面向自动驾驶的可解释人

工智能技术，探讨当前的挑战并展望未来的研究方向，可为自动驾驶和可解释人工智能的未来发展提供指引与

参考。

关键词：自动驾驶；可解释人工智能；技术框架；黑箱

中图分类号：U471D0I:10.19999/ki.1004-0226.2025.06.002

收稿日期：2025-04-22

ResearchonExplainableArtificialIntelligenceTechnologyfor

AutonomousDriving

BianJingweilChenShuxing?LiZhenpeng

1.Zhito(Shanghai)TechnologyCo.,Ltd.,Shanghai200082,China

2.CommercialVehicleDevelopmentInstitute,FAWJiefangTruckCo.,Ltd.,Changchun130011,China

3.AcademyforEngineeringandTechnology,FudanUniversity,Shanghai200082,China

Abstract:Artificialintelligencetechnologyrepresentedbydeeplearningpromotestherapiddevelopmentoftheautonomousdriv-

ingindustry,andtheblackboxproblemofartificialintelligencenetworksisbecominganimportantobstacletothepopularizationofau-

tonomousvehicles.ExplainableArtificialIntelligence(XAI)technologyisaneffectivemethodtosolvetheblackboxproblem.Facing

theimmaturityofXAItechnology,thi