PAGE1
AI模型开发流程
摘要
本文对AI模型开发流程涉及的算法变更评估管理目的、生成内容标识职责分工、生成内容标识检查考核、数据集版本冻结记录要求、可解释性说明衔接条款等事项作出规定,明确了相应的适用范围、职责分工、处理要求与记录口径。
目次
一、目的
二、职责分工
三、流程步骤
四、检查与考核
五、记录与表单
六、附则
一、目的
(一)算法变更评估管理目的。一、模型上线之后的改动比上线之前更要紧,因为下游已经在用,本条把涉及判定规则、输入特征、阈值设定与外部通道的每处改动都变成有对照、有批准、有观察的请求。二、评估看行为差而不是改动幅度,只动一处而判定翻面的按高风险处理,改动很大输出却完全一致的走简化登记,两条路径的选择理由随变更单留档备查并写明判定人。
三、简化登记不等于免观察,登记件仍要在本单位自设窗口内回看线上表现,回看发现行为偏移即升回完整评估,升级时点由评审席书面确认而不口头通知,通知抄送下游岗位。四、本条同时堵住未经申请的线上变化,供应商侧版本更换由接入方代为发起,事后一律倒查当初的放行环节,倒查结论写入变更台账并同步受影响的下游岗位。
(二)漂移监控窗口管理目的。线上输入与训练基准的分布一旦拉开差距,早期只表现为零星偏移,等指标明显劣化再动手就来不及,本条用一个统一观察窗把苗头接住,让应对发生在劣化之前。窗口长度与检查频率按场景风险设档,高风险场景窗短频密
原创力文档

文档评论(0)