工业和信息化领域人工智能安全评测框架（2026版）.docxVIP

目录

一、评测框架概述 1

二、评测内容 2

（一）通用安全 2

（二）应用安全 6

（三）业务安全 9

三、评测方法 14

（一）测试实施方法 14

（二）结果评定方法 16

四、评测实施 17

1

一、评测框架概述

人工智能安全评测是识别安全风险、评估安全水平、检验安全防护成效的重要手段。评测框架立足工业和信息化领域人工智能技术发展和应用实际，面向人工智能安全治理需求，围绕人工智能技术研发和应用过程中的安全风险，统筹评测内容、评测方法和评测实施，为规范安全评测实施、提升安全评测能力提供支撑，护航人工智能产业高质量发展。

评测对象包括人工智能模型、应用系统及其相关运行环境。开展评测时，应根据对象的功能特征、能力水平、部署方式、数据处理活动、操作权限和业务影响，选取适用的评测内容。

评测内容包括通用安全、应用安全和业务安全三个维度。通用安全涵盖数据安全、模型安全和基础设施安全，主要涉及人工智能研发应用中的基础共性安全；应用安全涵盖智能体安全和具身智能安全，主要涉及新型人工智能应用形态的安全；业务安全涵盖工业场景安全和电信场景安全，主要涉及人工智能与重点行业业务融合应用中的安全。三个维度相互衔接，可根据评测对象组合使用。业务场景测试应在适用的通用安全和应用安全测试基础上，进一步验证业务约束及防护措施的有效