模型解释性审查管理规定.docxVIP

模型解释性审查管理规定

模型解释性审查管理规定

一、模型解释性审查分级分类与标准制定在模型解释性审查管理规定中的核心作用

在模型解释性审查管理工作中，模型解释性审查分级分类与标准制定是确保及算法模型在投入使用前具备足够透明度、可理解性和可追溯性的基础性工作。通过对不同应用场景下的模型实施差异化的解释性要求，既能防止因过度要求导致技术创新受限，也能避免因要求不足使高风险决策陷入黑箱状态而无法追责。本部分从模型风险分级分类体系建立、不同级别模型解释性量化标准、领域特异性解释性规范制定、解释性文档模板与基线要求四个方面展开。

（1）模型风险分级分类体系的建立。组织应根据模型所影响的权益性质、决策后果的不可逆程度、影响人数规模及数据敏感程度，将纳入审查范围的模型划分为高风险模型、中风险模型和低风险模型三个等级。高风险模型包括但不限于：信贷审批模型、保险核保与理赔定损模型、招聘筛选模型、公共资源配置或资格认定模型、医疗诊断辅助决策模型、涉及人身自由或重大财产处分的自动化决策模型。此类模型若缺乏可解释性，将直接侵害个人或群体的合法权益，且事后难以还原决策逻辑，故须执行最高等级的解释性审查。中风险模型指虽影响个体权益但可逆或可申诉、或影响范围相对有限的模型，如客户流失预测、营销推荐排序、智能客服问答路由等。低风险模型指仅用于内部运营辅助、不涉及对自然人权益作出实质性判断的模型，如机房能