归纳逻辑程序设计的发展.docVIP

归纳逻辑程序设计的发展 　　机器学习试图利用计算机来模拟人类的学习行为，进而利用计算机的技术优势给人类的生活带来便利。归纳逻辑程序设计(Inductive Logic Programming，简写为ILP)是机器学习和逻辑程序设计的交叉研究领域。它在子句逻辑的框架下，通过让计算机考察具体的事例，然后学习出能够刻画这些事例特有属性的一般性规则。具体来说，计算机进行操作时，根据背景知识在限定的归纳假设空间中不断地搜索，最后得出一个理论(也即满足某种语言偏向的子句集)，使得所有的正例都能被理论覆盖，而负实例不被覆盖。ILP作为机器学习的重要方法，已经在生物信息学、自然语言处理、软件工程等应用领域取得成功。 　　一、归纳逻辑程序设计的研究现状 　　近年来，ILP得到很大的发展，其应用领域也不断拓宽。一般说来，ILP最重要的应用领域之一是生物信息学(Bioinformatics)。ILP之所以能适用于生物信息学的任务，是因为它会将背景知识和结构数据考虑在内，学习产生人类能理解的知识。在学习蛋白质结构的折叠的过程中，由于对其结构的学习很重要，所以需要找到能够清晰描述其结构的语言。传统的属性-值方法无法描述对象问的关系，因而也就无法合理地表示蛋白质分子的三维结构，ILP的一阶逻辑工具-子句逻辑是非常适合描述这种关系的语言，它在预测蛋白质结构信息和蛋白质次级结构生成中发挥了很大作用。同时，在预测化合物诱变问题上，ILP也解决了传统方法无法解决的结构关系问题。 　　机器学习一个非常独特的应用领域是自然语言处理，它的主要任务在于建立各种自然语言处理系统，如文字自动识别系统、语音自动识别系统、机器翻译系统、自然语言信息检索系统、自动索引系统等。在自然语言处理中，ILP的方法可以从文本中抽取复杂的关系数据，这是ILP优于其他机器学习技术的特点之一。ILP系统还常常为工程学、环境监控、软件分析、模式学习和关系发现等领域的数据构造预测模型。虽然ILP与其他机器学习方法相比有一定的优势，然而随着科学技术发展和需求的增加，ILP在应用中也面临许多挑战: 　　首先，相比其他的机器学习系统来说，ILP系统对时问和空间有更高的要求，这使得ILP很难去处理大的数据集。因此，ILP应该努力寻求与随机搜索和并行处理技术等方法结合以处理结构复杂的数据集。 　　其次，隐马尔科夫模型、动态贝叶斯网络、双连词和三连词等技术都能充分表达任务中的内在概率，而ILP系统很少有表达、处理概率的能力，这也是ILP的重大不足之一。 　　最后，当背景知识和数据集用一阶逻辑清晰表达出来时，ILP可以运行良好。但是当数据集是无法通过一阶逻辑清晰表达的图像、视频、音频时，ILP就无能为力。就这一问题来说，ILP需要从约束逻辑程序设计中借鉴经验，学习处理特殊数据格式的技术。 　　二、归纳逻辑程序设计的发展展望 　　ILP应用过程中所显现出来的不足之处，使得ILP必须与其他研究领域的技术相结合，来提高它解决问题的能力。为了使ILP更好地完成归纳学习任务，戴维·培基提出了ILP未来发展的五个研究方向。 　　1 .ILP和贝叶斯网络 　　目前在人工智能中，贝叶斯网络是处理不确定信息和进行概率推理的最有力工具，它在很大程度上取代了传统的基于规则的专家系统。人工智能的研究者已经意识到概率的重要性，例如在医疗诊断中，几乎没有普遍真的医学规律存在，也很少有完全正确的实验可被利用。取而代之的是，概率被用来刻画任务本身内在的不确定性。贝叶斯网络被特别设计出来去表达一些可能的概率分布，并且尝试对这些概率分布进行推理。它已经在医疗诊断、拼写纠错、故障诊断等领域得到应用，也成为了国内外研究的新宠儿。 　　虽然贝叶斯网络有如此良好的应用，然而它本质上是命题的:变量集是确定且有限的，并且每个变量都有其确定的可能值域。这个事实限制了贝叶斯网络的应用。此外，当一个贝叶斯网用一个图表表示时，图表能够刻画的唯一关系是概率、或然性之间的条件依赖关系，它不能表达关系结构。要想使贝叶斯网络更好地为人类服务，必须试图去拓展贝叶斯网络的表达力，并且试图用一个拓展的表达来进行归纳学习。实践证明，这个拓展的表达结果是复杂的，还降低了一阶逻辑的表达力。ILP研究者尝试学习添加概率的子句，来拓展贝叶斯网的表达力，在一定程度上可以解决这一问题。目前，学者已经提出几种可供选择的子句表达方式，其中包括概率逻辑程序设计，随机逻辑程序设计和概率约束逻辑程序设计。库塞斯着手研究随机逻辑程序设计的算法和应用，而恩格和哈达维则研究贝叶斯网络的一阶表达。一般说来，ILP和贝叶斯网络学习是正交的。ILP擅长处理关系域，而贝叶斯网络对概率处理的很好。因此，设想一个能够具有贝