人工智能安全与隐私保护手册.docxVIP

安全与隐私保护手册

第1章安全基础与风险认知

1.1安全概述与核心定义

安全是指保障系统、算法模型及应用场景在开发、部署、运行及全生命周期中，免受恶意攻击、数据泄露、模型偏见、功能不可控及合规违规等威胁，确保其安全性、可靠性与可解释性的总称。核心定义指出，安全不仅包含传统的网络安全，更强调针对“黑盒”算法的对抗性攻击、数据投毒攻击以及基于大模型的式内容诈骗（Deepfake）等新型风险的防御能力。

该概念强调“内生安全”，即安全属性应内嵌于算法架构设计之中，而非事后修补，要求从源头消除系统被操控的可能性，确保决策符合人类价值观与社会伦理。随着式的爆发，安全定义已扩展至内