强人工智能和超级智能：技术合理性及其批判.pdfVIP

2016年第5期 /强人工智能和超级智能：技术合理性及其批判/ 强人工智能和超级智能：技术合理性及其批判 陈自富 （上海交通大学，上海 200240） 摘要：强人工智能（以下简称强AI：Strong Artificial Intelligence）由美国哲学家约翰·塞尔上世纪70年 代在其论文《心灵、大脑与程序》中提出，主要是指对人工智能（以下简称AI）持有的这样一种哲学 立场：基于心智的计算模型，以通用数字计算机为载体的AI程序可以象人类一样认知和思考，达到或 者超过人类智能水平。这种立场与弱人工智能（以下简称弱AI：Weak AI）或应用人工智能相对立， 后者认为AI只是帮助人类完成某些任务的工具或助理。随着最近20年来互联网、神经科学、基因工程 等技术的飞速发展，强AI从塞尔时代的一种哲学立场逐步向工程实践转变和演进，未来学家甚至设 想和描述了强AI的更极端版本：超级智能，这些在IBM、谷歌、Facebook、微软等产业巨头和库兹韦 尔、马克拉姆等乐观的技术实践者的双重推动下，藉由大众科学传播的放大作用，渗透到人们的日常 生活中构成了对其技术合理性的辩护，但AI本身对人类主体和社会的影响不是价值中立的，它一方面 难以吸收和提升人类的创新本质，另一方面其技术合理性带来的后果与其初衷有时相互背离，并在商 业行为的推动下，构成对作为文化产物和自我解释的理性人类的单向压制和挑战。 关键词：强人工智能；人工通用智能；超级智能；技术合理性；批判 中图文献号：TP18 文献编码：A DOI:10.3969/j.issn.1003-8256.2016.05.004 机器[4]97 ，并预见了计算机对社会为善和作恶的双重性 1 早期AI及其愿景 [4]21-22 。几乎同时，英国控制论学者和神经生理学家格 雷·沃尔特（Grey Walter）制作了可感知环境和避开 一般认为1956年由美国达特茅斯学院青年数学 障碍的电子龟[5]225 ，从1951年开始，英国和美国都开 家约翰·麦卡锡（John McCarthy）为主发起的达特茅 发了一些在早期计算机上执行包括弈棋在内的简单程 斯会议标志着AI的正式诞生[1]49 ，但在这之前的1947 序，尤其亚瑟·塞缪尔（Arthur Samuel ）的跳棋程序 年，计算机科学的主要奠基者、英国应用数学家图灵 后来很有影响[2]436 。总之，随着控制论的传播和通用数 在伦敦发表的一次公开演讲已提及AI，1948年他的一 字计算机的发明，1956年之前对计算机可在社会中代 份名为《智能机器》的未出版报告被视为“AI的第一 替人类完成某些智能任务的愿景已经得到广泛讨论并 份宣言”[2]432 ，1950年提出了判断机器是否具备人类 有了不少共识，维纳、冯 ·诺依曼、图灵、信息论的 智能的图灵测试[3]56-91 。几乎同时控制论学者也提出了 创始人香农等都参与其中[4]11-22 。 类似设想并付诸实践：1948年控制论的主要创始人维 在达特茅斯会议前后，现代意义上的计算机程 纳在其名著《控制论》中指出计算机和大脑都是逻辑 序设计尚未成为专业，IBM在1957年才开发了第一种 作者简介：陈自富（1973—），湖南洪江人，上海交通大学科学史与科学文化研究院博士研究生，研究方向为信息科学 与互联网技术的历史、文化和传播。 25 /科学与文化/ 广泛应用的程序设计语言FORTRAN，“Programming （编程）”这个术语迟至20世纪60年代中期后才开始 2