如何设计具有自主意图的人工智能体.pdfVIP

第71卷第6期 2018 年11月 Vol.71No.6 Nov. 2018 079092 DOI:10.14086/j.cnki.wujss.2018.06.008 如何设计具有自主意图的人工智能体 ——一项基于安斯康“意图”哲学的跨学科探索 徐英瑾 摘 要 具有自主意图、只依赖小数据运作的通用人工智能系统的出现，并不会像有 些人所预估的那样导致“机器奴役人类”的局面出现，因为此类技术对于小数据的容忍可以 大大增加此类技术的潜在用户的数量，并使得体现不同用户价值观的通用人工智能系统能 够大量出现。这样一来，具有不同意图的通用人工智能系统彼此之间的对冲效应，最终会使 得任何一种具有特定意图的通用人工智能系统都无法占据主宰地位。相反，由于作为专用人 工智能技术代表的深度学习技术的运用在原则上就需要大量数据的喂入，其对于民众隐私 权的侵犯就成为一种难以被全面遏制的常态，因此，此类技术的发展在原则上就会加强一部 分技术权贵对于大多数民众的统治地位。不过，要在通用人工智能系统里实现对于意图的工 程学建模，就需要我们在哲学层面上首先厘清关于意图的种种哲学迷思。在这个问题上，美 国女哲学家安斯康的意图理论是一个比较好的讨论起点。具体而言，安斯康关于“意图是在 欲望驱使下做某事的理由”的观点，是可以在通用人工智能的语境中被实现的，但是她关于 信念与意图之二元对立的观点，却在不少地方有失偏颇。而“非公理化推理系统”（纳思系 统），则将为吸纳安斯康意图论的合理部分提供相应的工程学手段。 关键词 通用人工智能；非公理化推理系统；纳思系统；深度学习；公众隐私；安斯康 中图分类号 B222；B84 文献标识码 A 文章编号1672-7320(2018)06-0079-14 基金项目 国家社会科学基金重大项目（15ZDB020）； 国家社会科学基金一般项 目（13BZX023） 一、从“人工智能是否会奴役人类”谈起 随着近几年以来人工智能技术在工程学层面上的不断进步，关于“人工智能是否会在未来统治人 类”的担忧，也日渐被人提起。但在笔者看来，这个问题本身已经包含了诸多语言混乱。如果不预先对这 些混乱加以厘清，我们将很难对这一问题作出严肃的应答。具体而言，该问题所涉及的第一重语言歧义 即：这里所说的“人工智能”究竟是指专用人工智能（即只能用于特定工作目的的人工智能系统），还是 通用人工智能（即能够像人类那样灵活从事各种工作的人工智能系统）？有人或许会说，抓住这一点歧 义不放乃是小题大做，因为所谓通用人工智能技术，无非就是既有的专用人工智能技术的集成。但持此 论者却没有意识到如下三个问题： （甲）就既有专业人工智能技术中发展最快的深度学习系统而言，此类系统的运作其实是需要大量 的数据输入为其前提的。因此，深度学习系统并不具备根据少量数据进行有效推理的能力——换言之， 80 武汉大学学报（哲学社会科学版） 2018 年第 6 期 它们缺乏“举一反三”的智能，尽管这种智能乃是任何一种理想的通用人工智能系统所不可或缺的。不 得不提到的是，在“迁移学习”这一名目下，目前不少深度学习研究者都在研究如何将在一个深度学习网 络中已经获得的网络权重分布“迁移”到一个新的网络中去。这姑且可以被视为某种最初步的“举一反 三”。然而，这种意义上的迁移学习必须预设深度学习网络所从事的新任务与旧任务之间有足够的相似 性，而无法模拟人类在非常不同的领域（如“孙子兵法”与商业活动）之间建立起类比推理关系的能力。 （乙）现有的深度学习架构都是以特定任务为导向的，而这些任务导向所导致的系统功能区分，既 不与人类大脑的自然分区相符合（譬如，我们人类的大脑显然没有一个分区是专门用于下围棋的，而专 门用于下围棋的“阿尔法狗”系统的内部结构则是为下围棋量身定做的），也缺乏彼此转