人工智能安全与数据隐私手册.docxVIP

安全与数据隐私手册

第1章安全基础与风险评估

1.1安全核心概念与定义

安全的核心概念是指利用现代计算技术构建的，旨在保障系统从数据输入、模型训练、部署运行到最终交付的全生命周期中，免受未经授权的访问、恶意篡改、数据泄露及逻辑攻击而实现的安全状态。它不仅仅是代码层面的漏洞修补，更涵盖了算法偏见导致的歧视性后果、模型黑盒带来的不可解释性风险以及数据主权归属等深层治理问题。在定义层面，安全强调“系统性防御”，即针对大、计算机视觉模型等复杂系统，识别并阻断由外部威胁（如SQL注入、Prompt攻击）和内部威胁（如模型窃取、参数回滚）引发的连锁反应。其核心定义必须包含对“自主性”的约束，即确保行为符合人类道德规范和社会伦理，而非成为自动化武器或社会不平等的放大器。

从技术边界来看，安全定义了一个动态的防护边界，该边界不仅包括防火墙和加密算法，更延伸至对模型幻觉（Hallucination）的抑制机制和对数据源的溯源验证能力。一个定义严谨的安全体系，必须能够量化攻击成功率并设定明确的止损阈值，以防止系统因过度自动化而丧失人类在关键决策中的否决权。在数据层面，安全定义严格区分了“原始数据隐私”与“衍生数据隐私”。前者指训练集中的用户身份信息，后者指通过模型分析的画像数据。定义中必须明确，即使原始数据已匿名化，若模型能精准还原个人身份，该衍生数据仍属于受保护对象，