AI安全常见问题V1.4.docx

AI安全常见问题

摘要

本文对AI安全常见问题涉及的上线公平性测试管理目的、离线验证口径风险提示、类别不均衡治理操作流程、第三方模型接口记录要求、治理委员会议事衔接条款等事项作出规定，明确了相应的适用范围、职责分工、处理要求与记录口径。

目次

一、目的

二、常见问题

三、管理要求

四、记录与表单

五、附则

一、目的

（一）上线公平性测试管理目的

一、公平性测试旨在上线前发现模型对特定人群子组表现失衡，防止算法偏见经服务入口外溢。

二、测试子组按业务敏感属性划分，本条固定划分口径，避免临到上线各执一词。

三、测试结果与整改、记录要求一体规定，不允许测试停留在报告层面而无后续动作。

四、测试页与整改记录一并入卷，评审席上按卷提问；无卷可查的，视为测试未做，而不是测试做了未报。

（二）模型下线替代适用范围

一、适用于自研与接入模型服务的停止提供，含临时停用跨过一个完整观察窗的情形。

二、版本升级替换旧版按算法变更评估办理，不启动本条全程。

三、因监管要求紧急停服的走特别通道，但替代与追溯两项义务不豁免。

四、接口降级而主链路仍在运行的不触发本条；主路停摆、旁路残存的，按临时停用观察两个完整周期后再决定是否下线。

（三）治理委员会议事术语界定

一、法定人数指会议有效的最少出席数；裁决高风险放行事项时，合规与算法两方成员须到场。

二、议题单是入会讨论的正式入口，未列入议题的事项原则上当场不议