AI系统的安全：对抗样本、模型窃取、后门.docx

AI系统的安全：对抗样本、模型窃取、后门

本文档提供：三类安全风险判定表一张，按攻击者能力、攻击面、触发条件和可观察信号区分对抗样本、模型窃取和后门；对抗鲁棒性测试与验收表一张，含FGSM/PGD测试方法、ε阈值和降级容忍线；模型窃取暴露与检测指标表一张，按查询速率、查询模式偏离和输出扰动记录列出监测字段；后门供应链控制检查表一张，覆盖数据来源验证、训练管道审计和模型工件哈希核对；后门检测方法选用表一张，含静态权重分析、神经元激活分析和触发器逆向工程的适用条件和输出物；监测指标与阈值总表一张，把三类风险的可观察信号映射到调查级和动作级；某食品视觉检测模型遭遇对抗扰动与供应链投毒嫌疑的完整处置案