AI伦理管理制度V1.6.docx

AI伦理管理制度

摘要

本文对AI伦理管理制度涉及的类别不均衡治理适用范围、训练数据合法性术语界定、投诉错误归因操作流程、类别不均衡治理管理要求、人工复核岗衔接条款等事项作出规定，明确了相应的适用范围、职责分工、处理要求与记录口径。

目次

一、目的

二、适用范围

三、术语定义

四、职责分工

五、管理要求

六、流程步骤

七、检查与考核

八、记录与表单

九、附则

一、目的

（一）类别不均衡治理适用范围

一、适用于分类模型训练集里各类别样本数量差距悬殊的治理场景；差距在数倍以内的一般情形按常规采样处理，不启用本条加严手段。

二、召回优先的业务（风控提示、安全告警）即便目标类别占比很低也必须单列处理，本条优先适用。

三、无类别标签的纯排序任务不执行采样动作，仅参照本条中的分档评估口径。

四、类别差距的数据以训练前统计为准，处理之后再统计会把手段效果混进基线；分布表必须取自未经处理的原始副本。

（二）模型下线替代管理目的

一、本条把下线做成有计划动作：留好替代、安顿依赖、保住追溯，三者齐备才允许停服。

二、防止悄悄停服造成下游悬空，报表与流程还在引用一个已经不存在的服务。

三、下线信息向相关方同步的时限与方式一并固定，不搞临时口头通知。

四、本条与变更评估的分工为：单版本替换走变更流程，整体退出走下线流程；拿不准的按下线从严办理，避免留下无主服务。

（三）可解释性说明管理目的

一、本条意在让