2025年人工智能安全与隐私保护手册.docxVIP

2025年安全与隐私保护手册

第1章安全基础与合规框架

1.1安全核心概念与风险分类

安全核心概念是指界定系统运作边界、识别潜在威胁及界定安全属性的术语集合，其本质是区分“可控的增强智能”与“失控的自主攻击”。在定义层面，需明确“自主性”并非指完全独立于人类决策的机器，而是指在特定安全框架下，系统能够自主执行高风险任务而不依赖人类实时干预的程度，这直接决定了风险等级。例如，在自动驾驶领域，当车辆依据摄像头数据在50毫秒内自主完成变道且无人干预时，即处于高自主性风险状态，此时若发生碰撞，责任主体往往从驾驶员转移至算法开发者或制造商。风险分类是构建安全评估体系的基石，其分类维度涵盖了技术架构、数据流向及业务场景三个层面。从技术架构看，需区分“数据泄露风险”、“模型偏差风险”及“系统崩溃风险”；从数据流向看，则涉及“训练数据污染”、“推理过程注入攻击”以及“数据回传滥用”；从业务场景看，则包括“医疗诊断误诊”、“金融信贷欺诈”及“供应链投毒”等具体场景。例如，在医疗场景中，若训练数据包含未标注的隐私信息（如患者身份证部分字段），即便模型未直接泄露，也属于隐蔽的数据泄露风险，需通过差分隐私技术进行量化评估。

数据隐私保护与个人信息权益保障机制是安全的核心防线，其机制设计遵循“最小必要”与“知情同意”原则。具体而言，数据收集阶段必须严格限定采集范围，仅获取实现模