直面人工智能信息安全威胁管理论文.docVIP

直面人工智能信息安全威胁管理论文 目录 一是影响面大 二是危害性大 三是传导性强 四是不可预见性强 正文 摘要：直面人工智能信息安全威胁 作者：未知 人工智能（Artificial Intelligence，简称“AI”）是一门前沿交叉学科，它诞生于20世纪50年代初，经过60多年的技术演进和持续积累，其理论知识技术日益成熟，应用范围领域也在不断扩大。从2014年开始我国在人工智能领域 人工智能将成为未来发展的重要科技技术之一，但是人工智能技术会对信息安全、个人隐私、社会伦理带来较大的影响和冲击，使网络与信息安全面临新的问题、新的挑战，必须紧盯科技发展大势，高度重视人工智能技术可能带来的安全风险挑战，进行安全风险及应对措施分析，从而推动和保障相关技术安全保密应用，最大限度降低风险，确保人工智能技术对保密管理和保密技术体系的影响可控。 人工智能信息安全威胁分析 人工智能技术的特点，导致人工智能信息安全威胁随之有以下新的特点。 第一，伦理安全威胁。 大数据驱动知识学习、跨媒体协同处理、人机协同增强智能、群体集成智能、自主智能系统成为人工智能的发展重点，受脑科学研究成果启发的类脑智能蓄势待发。随着人工智能技术的发展，人们在日常生活中会接触越来越多具有“自主操控”特征的设备和机器，面临现有法律、社会规范和道德伦理的挑战。此外，人工智能技术的进步，可能会导致某些简单、重复工作类职业的消失，导致相关从业人员的心理恐慌。 第二，社会秩序破坏安全威胁。 和传统的信息系统不同，通过人工智能技术可实现对设备或者机器一定程度的自主智能操控。一方面，人工智能系统控制的机器人、无人驾驶汽车、无人驾驶飞机等设备或机器具备一定的自主行为，在受到安全威胁时对社会秩序有较大的破坏性，典型的就是无人驾驶汽车失控对交通系统的破坏；另一方面，人工智能系统机器行为给同一系统中的人带来不可预见的干扰和影响，可能会导致破坏现有的秩序。 第三，隐私安全威胁。 由于大数据、传感器等技术的广泛应用，对于人、事、地、物、组织等社会管理和经济运行实体的综合、立体全方位刻画成为可能。以人员为例，从孤立的、局部的个人情况、家庭信息、联系方式、账号密码等信息，延伸到出行轨迹、社会交往、消费情况、健康状况等，并且通过智能手机、互联网、传感设备的实时数据获取、汇聚使得上述全方位刻画数据从静态发展为动态。如果上述被刻画人员的数据曝光，将毫无个人隐私可言。 第四，系统整体性安全威胁。 在人工智能系统中，大量数据存储于云端，经过大数据分析后向控制端发送指令，是一个形成“感、传、智、用”闭环的统一系统。一旦受到攻击和发生故障，造成的安全影响往往是整体性的、全局性的。即使局部的安全风险，也会被迅速扩散和放大，造成更为严重的安全威胁。 人工智能信息安全威胁的特点 一是影响面大。 人工智能作为一门交叉学科，涉及芯片、网络、软件、信息资源处理、传感网、图像处理、计算机视觉、语言识别、语义处理、机器学习等多种学科及技术领域，具有“跨界融合”的新特征。因此，人工智能带来的信息安全威胁相比传统的信息安全威胁影响面大，更难定位和分析。 二是危害性大。 传统的信息安全攻击和漏洞带来的损失本质上是信息泄漏，信息的泄漏往往是静态的、损失是可衡量的。而人工智能具有“自主操控”的新特征，与其控制的设备或机器（如机器人、无人驾驶汽车、无人驾驶飞机等）相结合，针对人工智能的攻击具有强烈的动态性，甚至会威胁生命、影响人和社会的伦理，这给传统的“保密就是保信息”的观念带来了极大的挑战。 三是传导性强。 随着技术的迅速发挥和完善，人工智能已越来越多地进入到制造、金融、安防、医疗、教育、零售等社会各领域以及人们的家居、驾驶等诸多领域，摄像头、拾音器、定位设备、感温器、人体体征检测设备、感光器等大量多种传感器遍布于人们的工作和生活的各个角落，连接密集、节点增多、数据密集，导致非法入侵的触点也大大增加，人工智能的信息安全漏洞可快速蔓延，迅速从设备传导到使用的人员。 四是不可预见性强。 人工智能的“深度学习”特征以及其发展的相对不成熟，会导致较强的不可预见性，给信息安全和保密管理带来更大的困难。相比人类而言，人工智能需要从学习样本或者数据中学习有价值的信息，并针对某个情境独立建造一个抽象模型进行具有一定高度的归纳总结。学习样本或者数据并不是全样本的实际数据，加之这些数据的不稳定性或潜在缺陷会给人工智能带来不可靠、不准确和不公平，存在较大的安全风险。同时，由于数据在云端汇集、存储，各数据要素的产生者、数据全集的所有者对信息的不可控性也大大增加。 人工智能信息安全威胁的应对措施 人工智能技术在带来机遇的同时，也带来了安全挑战，需要提前在立法、机制、技术和管理方面做好信息安全应对。 首先，立法应对措施。 2016年10月，美国发布的《美国国家人工智