人工智能与物联网安全手册.docxVIP

与物联网安全手册

第1章安全基础与威胁建模

1.1安全的核心概念与定义

安全是指针对机器学习模型、深度学习系统及物联网应用，从数据输入、模型训练、推理执行到输出部署的全生命周期，防范恶意篡改、模型窃取、对抗攻击及隐私泄露的技术与管理活动。其核心在于确保系统具备“意图对齐”能力，即模型的行为严格符合人类预设的安全与伦理准则，而非被黑客利用来执行恶意指令或破坏系统稳定性。在定义层面，需区分“攻击”与“网络安全攻击”。前者特指针对架构本身的逆向工程、模型投毒（ModelPoisoning）或式的注入攻击，后者则包含传统的网络入侵；两者虽手段相似，但攻击目标不同，前者关注