AI模型事件应急处置专项预案-000616.docx

PAGE1

AI模型事件应急处置专项预案

摘要

本文对AI模型事件应急处置专项预案涉及的高风险双人确认管理目的、数据集版本冻结适用范围、对抗与越狱测试操作流程、自动化决策告知检查考核、生成内容标识记录要求等事项作出规定,明确了相应的适用范围、职责分工、处理要求与记录口径。

目次

一、目的

二、适用范围

三、职责分工

四、流程步骤

五、风险提示

六、检查与考核

七、记录与表单

一、目的

(一)高风险双人确认管理目的。高影响操作必须经过两个相互独立的判断才能落地,本条要防的是单人误操作,也防经办人在现场压力下被带着走完流程,事后找不到第二双眼睛。覆盖的业务名单与触发条件由本条固定,哪类业务必触发、哪类不触发都事先列明,任何业务不得自设免检通道绕过,确有新增的走条款修订,修订前后各留一版记录。确认留痕既是事后追责的依据,也是对经办人的保护,留痕都能对上批次档案的人不受无端猜疑,缺一名确认人或时间对不上的操作视同未经确认,由责任岗位补交说明。确认与留痕两道动作由系统强制,凡可在表单上手填对方姓名的通道一经发现即下线整改,杜绝同一人分饰两角,整改完成前该通道已发生的操作全部回看一次并登记结果。

(二)可解释性说明管理目的。一、这条要办的事,是让受模型决策影响的个人或部门拿到一份读得懂的因果说明,而不是只收到一个分数;分数之外没有理由,申诉与复核都无从谈起,返工会反复涌进同一个环节。二、说

文档评论(0)

1亿VIP精品文档

相关文档