2025年AI安全事件响应报告试题(含答案与解析).docxVIP

2025年AI安全事件响应报告试题(含答案与解析)

一、事件背景

2025年3月15日14:23，某头部科技企业星途智能的AI安全监控平台触发红色预警：其核心产品星眸3.0多模态大模型在服务金融客户汇通银行的智能风控场景中，连续30分钟内输出异常风险评估结果。具体表现为：对12笔高风险交易（历史同类交易违约率＞85%）判定为低风险，对27笔低风险交易（历史同类交易违约率＜5%）判定为高风险，且异常结果集中出现在小额高频跨境支付子场景。

星眸3.0是该企业2024年12月发布的通用多模态大模型，支持文本、图像、时序数据融合分析，日均处理金融风控请求超500万次，服务覆盖全国12家商业银行。模型采用基础大模型+领域微调+实时反馈架构，其中金融领域微调数据包含2018-2024年超2000万条真实交易数据（含脱敏用户信息、交易流水、设备指纹等），实时反馈模块通过API接收客户侧风险验证结果并更新模型参数。

二、事件响应过程关键信息

1.初始检测（14:23-14:30）：监控平台通过以下指标触发预警：

模型输出置信度骤降：正常场景置信度均值为0.92，异常时段均值0.65；

特征重要性偏移：交易对手地域特征权重从18%升至45%，历史逾期次数权重从32%降至12%；

日志异常：模型调用日志中出现3次非预期的外部参数注入请求（请求源IP为102.19.XX.XX