人工智能安全框架.docx

? ? ? ? ? ? ? 人工智能安全框架（2020年） ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? 本蓝皮书针对全球人工智能安全框架缺失问题，凝聚业界专家共识，聚焦当前人工智能突出安全风险，提出涵盖人工智能安全目标，人工智能安全分级能力，以及人工智能安全技术和管理体系的人工智能安全框架，期待为社会各方提升人工智能安全防护能力提供有益参考。 一、人工智能安全现状 (一)人工智能安全挑战 1.人工智能“基建化”加速，基础设施面临安全挑战 2020 年 5 月，我国《政府工作报告》提出以 5G、人工智能等为代表的新型基础设施建设政策，此举按下了人工智能国家战略推进的快进键。随后，25 省市发布“新基建”政策方案，累计投资 30 余万亿人民币，加快推动人工智能算力、算法和数据基础设施建设。在新基建推动催化下，人工智能技术将加快转变为像水、电一样的基础设施，向社会全行业全领域赋能。然而，人工智能基础设施却潜藏安全风险。以机器学习开源框架平台和预训练模型库为代表的算法基础设施因开发者蓄意破坏或代码实现不完善面临算法后门嵌入、代码安全漏洞等风险。2020 年 9 月，安全厂商 360 公开披露谷歌开源框架平台TensorFlow 存在 24 个安全漏洞。开源数据集以提供数据采集、清洗、标注等服务的人工智能基础数据设施面临训练数据不均衡、训练数据