人工智能系统可信性度量评估研究综述.pdfVIP

软件学报 ISSN 1000-9825, CODEN RUXUEW E-mail: jos@ Journal of Software ,2023,34(8):3774−3792 [doi: 10.13328/ki.jos.006592] ©中国科学院软件研究所版权所有. Tel: +86-10   * 人工智能系统可信性度量评估研究综述 1,2 1,2 1,2 刘    晗 ,    李凯旋 ,    陈仪香 1(华东师范大学 软件工程学院, 上海 200062) 2(上海市高可信计算重点实验室(华东师范大学), 上海 200062) 通信作者: 陈仪香, E-mail: yxchen@ 摘　要: 近年来, 人工智能技术突飞猛进, 人工智能系统已经渗透到人们生活中, 成为人们生活中不可或缺的一部 分. 然而, 人工智能系统需要数据训练模型, 数据扰动会对其结果造成影响. 并且随着人工智能系统业务多样化, 规 模复杂化, 人工智能系统的可信性愈发受到人们的关注. 首先, 在梳理不同组织和学者提出的人工智能系统可信属 性基础上, 提出人工智能系统的9个可信属性; 接着, 从数据可信性、模型可信性和结果可信性分别介绍现有的人 工智能系统数据、模型、结果可信性度量方法, 设计人工智能系统可信证据收集方法. 其次, 总结当前人工智能系 统的可信度量评估理论与方法. 然后, 结合基于属性的软件可信评估方法与区块链技术, 建立一个人工智能系统可 信度量评估框架, 包括可信属性分解及可信证据获取方法、联邦式可信度量模型与以及基于区块链的人工智能系 统可信度量评估架构. 最后, 讨论人工智能系统可信度量技术面临的机遇和挑战. 关键词: 人工智能系统; 可信性; 度量评估 中图法分类号: TP18 中文引用格式: 刘晗, 李凯旋, 陈仪香. 人工智能系统可信性度量评估研究综述. 软件学报, 2023, 34(8): 3774–3792. http://www.jos. /1000-9825/6592.htm 英文引用格式: Liu H, Li KX, Chen YX. Survey on Trustworthiness Measurement for Artificial Intelligence Systems. Ruan Jian Xue Bao/Journal of Software, 2023, 34(8): 3774–3792 (in Chinese). /1000-9825/6592.htm Survey on Trustworthiness Measurement for Artificial Intelligence Systems 1,2 1,2 1,2 LIU Han , LI Kai-Xuan , CHEN Yi-Xiang 1(Software Engineering Institute, East China Normal University, Shanghai 200062, China) 2(Shanghai Key Laboratory of Trustworthy Computing (East China Normal University), Shanghai 200062, China) Abstract:  In recent years, artificial intelligence (AI) has rapidly developed. AI systems