认知图谱：知识图谱+认知推理+逻辑表达.pdfVIP

认知图谱 ：知识图谱+认知推理+逻辑表达 2020 年 3 ⽉，清华⼤学计算机系唐杰教授 中科院 “先导杯”并⾏计算应⽤⼤奖赛启动仪式带来 《⼈⼯智能下⼀个⼗年》的主题报告。 介绍了认知图谱，核⼼概念为知识图谱+认知推理+逻辑表达 近年来，⼈⼯智能掀起了第三次浪潮，各个国家纷纷制订了⼈⼯智能的发展战略。 这个时代背景下，我们需要考虑⼈⼯智能未来⼗年会怎 样发展。 深⼊分析 AI 近⼗年的发展，会看到⼀个重要的标志 ：**⼈⼯智能 感知⽅⾯取得重要成果。**⼈⼯智能 语⾳识别、⽂本识别、视频识别等 ⽅⾯已经超越了⼈类，可以说 AI 感知⽅⾯已经逐渐接近⼈类的⽔平。从未来的趋势来看，⼈⼯智能将会有⼀个从感知到认知逐步发展的 基本趋势。 **可以把深度学习算法归类为这四个脉络，⽽这四个⽅⾯都取得了快速的进展。**最上⾯浅紫⾊部分的内容是以前向⽹络为代表的深度学习 算法。第⼆层淡绿⾊部分的内容表⽰⼀个以⾃学习、⾃编码为代表的学习时代。第三层橘⾊部分的内容代表 ⾃循环神经⽹络 （概率图模型的 发展）的算法。最下⾯粉⾊部分是以增强学习为代表的发展脉络。 如果再深⼊追溯最近⼏年最重要的发展，会发现 BERT 是⼀个典型代表。以 BERT 为代表的预训练算法得到了快速的发展，基本上所有的 算法都采⽤了预训练+微调+ Fine tune 的⽅法。BERT 20 18 年年底通过预训练打败了 NLP 上 11 个任务的经典算法 ；XLNet 20 19 年提出来通过双向⽹络的⽅法超过了 BERT。再后来，ALBERT ⼜超过了 XLNet 和原始的 BERT。整个 BERT 的发展引发了后续 ⼀系列的⼯作。 DeepMind ⼜把代表性的关联关系⽣成到 graph_net 中，于是 ⽹络中可以实现⼀定的推理。最近，Facebook 的何恺明提出了以 contrastive learning 为基础的 MoCo 及 MoCo2， 很多⽆监督学习 （Unsupervised learning）的结果上超过了监督学习 （Supervised learning），这是⼀个⾮常重要的进展，这也标志着预训练达到了⼀个新的⾼度。Hinton等⼈利⽤ SimCLR，通过简化版 的 contrastive learning 超过了 MoCo，后来 MoCo2 ⼜宣称超过了 SimCLR。总体来看， 算法的时代，预训练算法取得了快速的进 展。那么未来⼗年，AI 将何去何从？ 这⾥引⽤下张钹院⼠提出来的第三代⼈⼯智能的理论体系，核⼼思想为 ： （1）建⽴可解释、鲁棒性的⼈⼯智能理论和⽅法。 （2）发展安 全、可靠、可信及可扩展的⼈⼯智能技术。 （3）推动⼈⼯智能创新应⽤。 其中具体实施的路线图如下 ： （1）与脑科学融合，发展脑启发的⼈⼯智能理论。 （2）数据与知识融合的⼈⼯智能理论与⽅法。 这个思想框架下，我们做了⼀定的深⼊研究，我们称之为认知图谱 （Cognitive Graph）。其核⼼概念是知识图谱+认知推理+逻辑表 达。 知识图谱⼤家很熟悉，是⾕歌 20 12 年提出来的。这其中有两个重磅的图灵奖获得者 ：⼀个是爱德华 ·费根鲍姆 （1994 年图灵奖得 主），他 20 世界 60 年代就提出来了知识库的⼀些理论体系和框架 ；另⼀个是 1994 年蒂姆 ·伯纳斯 ·李 （20 16 年图灵奖得主、 WWW 的创始⼈、语义⽹络的创始⼈）。这⾥⾯除了知识⼯程、专家系统，还有⼀个代表性的系统 CYC，CYC 可以说是历史上持续时间 最长的项 ⽬，从 1985 年开始，这个项 ⽬直到现 还⼀直 持续。 下⾯介绍⼀下认知图谱，这⾥举⼀个例⼦来说明⼀下。假如我们要解决⼀个问题 “找到⼀个 2003 年 洛杉矶的 Quality 咖啡馆拍过电影 的导演 （Who is the director of the 2003 film which has scenes in it filmed at The Quality Cafe in Los Angeles）”。如果是⼈ 来解决这个问题的话，可能是先追溯相关的⽂档，如 Quality 咖啡馆的介绍⽂档，洛杉矶的维基百科页⾯等，我们可能会从中找到相关的电 影，如 Old School ， 这个电影的介绍⽂档⾥⾯，我们可能会进⼀步找到该电影的导演 Todd Phillips，经过⽐对电影的拍摄时间是 2003 年，最终确定答案是 Todd Phillips。