AI模型开发流程V1.9.docx

AI模型开发流程

摘要

本文对AI模型开发流程涉及的漂移监控窗口管理目的、治理委员会议事职责分工、上线公平性测试检查考核、可解释性说明记录要求、人工复核岗衔接条款等事项作出规定，明确了相应的适用范围、职责分工、处理要求与记录口径。

一、目的

二、职责分工

三、流程步骤

四、检查与考核

五、记录与表单

六、附则

一、目的

（一）漂移监控窗口管理目的

一、本条用统一观察窗发现线上输入与训练基准分布拉开差距的苗头，赶在指标明显劣化之前触发应对。

二、窗口长度与检查频率按场景风险设档，高风险场景窗短频密，低风险场景窗长稀疏。

三、监控结果与灰度缩量、回滚决策联动，不做只报数不处置的空转监控。

四、观察窗同时服务数据侧与模型侧的归因切分：统计距离异常先分清输入变化还是判定变化，之后再定责任岗，避免混案。

（二）上线公平性测试管理目的

一、公平性测试旨在上线前发现模型对特定人群子组表现失衡，防止算法偏见经服务入口外溢。

二、测试子组按业务敏感属性划分，本条固定划分口径，避免临到上线各执一词。

三、测试结果与整改、记录要求一体规定，不允许测试停留在报告层面而无后续动作。

四、测试页与整改记录一并入卷，评审席上按卷提问；无卷可查的，视为测试未做，而不是测试做了未报。

（三）模型下线替代适用范围

一、适用于自研与接入模型服务的停止提供，含临时停用跨过一个完整观察窗的情形。