人工智能安全的密码学思考_曹珍富.pdf

九三论坛 2019 年第 6 期 总第 181 期 人工智能安全的密码学思考 人工智能理想状态下是一项有用的技术，其理想状态是指纯技术、无攻击者，但现实状态是指 既有人为因素，也有攻击者。解决该问题的方法只有增加安全，抵抗攻击。所以，人工智能建 设从一开始必须考虑安全问题，即人工智能建设与人工智能安全建设必须同步进行。 ◎ 曹珍富 何为人工智能 种用于判定机器是否具有智能的试验方法， 人工智能（Artificial Intelligence， 即图灵测试，至今，每年都有测试的比赛。 AI）是研究、开发用于模拟、延伸和扩展人 图灵奖是美国计算机协会于1966年设立，有 的智能的理论、方法、技术及应用的一门技 “计算机界诺贝尔奖”之称。 术科学。它的主要目标是使机器能够胜任一 图灵的诸多贡献奠定了计算机发展的基 些通常需要人类智能才能完成的复杂工作。 础，人工智能在此基础上萌芽发展。但是，现 当然，不同时代、不同的人对这种“复杂工 代人工智能被认为起源于1956年的达特茅斯 曹珍富 作”的理解是不同的。目前，这些“复杂工 会议，所以通常将1956—1980年称为人工智 华东师范大学密码与 网络安全系系主任， 作”包括人机智能交互、自然语言处理、智能 能发展起步时期，其中包括1957年罗森布拉 上海市九三学社科技 推荐、知识表现、智能搜索、推理、规划、机 特发明了神经网络Perceptron。但到了1970 委副主任 器学习、知识获取、组合调度、感知、模式识 年，由于计算能力受限，人工智能发展步入 别、逻辑程序设计软计算、不精确和不确定 第一个寒冬。第二个发展时期是1980—1990 的管理、人工生命、神经网络、复杂系统、遗 年，XCON专家系统出现，每年节约4000万 传算法等，几乎囊括任意应用驱动的理论研 美元，标志着人工智能发展步入专家系统推 究。因此人工智能属于自然科学、社会科学、 广时期。其中80年代以Prolog语言为基础的 技术科学的交叉学科。 “五代机”曾风靡一时。1990—1991年，人工 应用驱动的理论研究之先驱可以追溯到 智能计算机DARPA没能实现，投入缩减，人 英国数学家、逻辑学家图灵（Alan Mathison 工智能进入第二次低谷。1997年IBM的Deep Turing），他被公认为计算机之父和人工智 Blue战胜了国际象棋冠军，引发人工智能新 能之父。他1931年进入剑桥大学国王学院， 的研究热潮。2000年至今被称为人工智能 毕业后到美国普林斯顿大学攻读博士学位， 第三个发展时期，进入深度学习阶段。其中 二战爆发后回到剑桥，后参与破解德国著名 2006年Hinton提出了深度学习的神经网络； 的密码系统Enigma，帮助盟军取得了二战的 2011年苹果的Siri问世，深度学习技术得到 胜利。图灵提出的著名的图灵机模型，为现 不断创新；2012年Google的无人驾驶汽车上 代计算机的逻辑工作方式奠定了基础。图灵 路；2013年深度学习算法在语音和视觉识别 对于人