深兰科技-超同态加密算法及计算芯片系列之“智能系统的安全要素”.doc

深兰科技|超同态加密算法及计算芯片系列之“智能系统的安全要素” 导语： 随着社会系统和数据量的飞跃性增加，人工智能的工程系统越来越普遍与复杂，传统系统工程TSE(Traditional Systems Engineering)越来越难以应对，以模型化与定理化为代表的人工智能技术和人工智能软件工程学也在快速地发展。 与此同时，人工智能对传统计算机安全领域的研究也产生了重大影响，除了利用人工智能来构建各种恶意检测、攻击识别系统外，黑客也可能利用人工智能达到更快速与更精准的攻击。除此之外，在关键的人工智能应用场景上，人工智能自身的安全性变得前所未有的重要，极需要构建一个不会被外界干扰而影响判断的、可解释的、健壮的人工智能系统。随着量子计算时代的到来，信息系统的安全也将遇到前所未有的挑战。 本系列分6个部分概要说明从智能系统的安全要素，以及深兰科技在作为后量子时代的国家战略科技储备的超同态加密算法以及超同态加密计算芯片的研究与开发。 1.智能系统的安全要素 2.人工智能系统安全的课题与技术框架 3.数字货币与区块链 4.量子计算 5.同态加密 6.超同态加密 智能系统的安全要素 当社会整体进入智能系统时代，安全对策变得越来越重要。因为在智能系统中有各种各样连接在网络中的设备与信息化系统，所以必须面对至今为止传统信息化系统无法相比的安全风险，只要有一个安全漏洞(security hole)就会减弱系统整体的安全强度。 面对庞大的安全风险，需要思考如何保护智能系统，如何减低安全对策的成本，如何在不牺牲易用性(usability)的同时合理有效地运营智能系统以及提高相关业务的效率。在思考智能系统的安全时主要有4个要点。 (1)关于智能系统的安全成本 对于什么部分需要保留等，必须在运营中做出取舍的选择，这样的取舍是确保智能系统安全的关键所在。尽全力构筑涵盖设备与系统全方位的安全是一个理想的状态，然而这样的成本非常巨大，在现实的商业中很难确保这些费用的预算(国家安全除外)。需要确定需要保证安全的部分以及必须保证安全的部分， 做出必要的取舍以及资源的选择与集中。 (2)易用性 安全性对易用性有很大的影响，如何同时确保安全性与易用性是智能系统中无可回避的困难事项，实施牢固的安全对策就会降低易用性。事实上不存在不牺牲易用性的安全对策，所以必须考虑安全对策与易用性之间的平衡(trade off)。兼顾安全对策与易用性在智能系统中有非常重要的意义。 (3) 与信息化系统的连接 在智能系统中有很多智能系统设备与信息化系统保持着连接，这也是在思考智能系统安全时不能遗漏的要点。在智能系统中连接着各种各样的智能系统设备，相对安全对策的实施对象也是多种多样的。 在传感器(sensor)和执行机构(actuator)等智能系统设备中有很多需要保存和发送的保密信息，与各种信息化系统连接的智能系统也传输着很多保密信息。很多智能系统设备设置在户外，智能系统设备的正常动作也受到气候与户外状况的影响，相比于传统预置型(on-premise)系统而言智能系统受到了更广义的威胁。所以与传统预置型系统相比，智能系统需要保护更多种类的设备与信息，智能系统动作状况也与传统预置型系统有非常大的差异。 (4)不仅仅是个别设备与个别系统要考虑安全，还需要基于它们之间的连接与关联，构筑整体的安全。 智能系统的安全首先是智能系统设备和信息化系统的各个部分的安全，然后通过各个部分的连接构成智能系统整体的安全。实现智能系统的安全需要统一智能系统设备和信息化系统的安全策略、安全运营与管理以及教育与培训，只有这样才能确保整体的安全水平。智能系统是动态的实时扩展系统，新的智能系统设备和信息化系统也必须遵守这些统一的要求。 整体的安全水平不能要求与各个部分中最高的安全水平一致，如果这样就会产生巨大的成本。在实际的实施中需要一边考虑成本，一边考虑与整体的安全之间的平衡，并决定保护什么与不保护什么的取舍。在这个时候，更需要考虑安全对策对易用性恶化的影响，并把对易用性考量融合到智能系统的整体安全性中。