哈师大计算机研究生课程人工智能复习总结范围.docxVIP

机器学习的过学习（过拟合） 过拟合是指为了得到一致假设而使假设变得过度严格。避免过拟合是分类器设计中的一个核心任务。通常采用增大数据量和测试样本集的方法对分类器性能进行评价。 过学习问题出现的原因 一般采用比较复杂的结构来构造的分类器，由于其学习能力强，超出了实际问题的需要，使学习机制对样本过度拟合，甚至将样本中的噪声都学习到，从而导致分类器容易出现过学习现象。 过学习现象的条件 采用的分类器学习能力过强，结构过于复杂；　　训练分类器的样本过少，各类样本数量不平衡。 过学习问题的解决办法 统计学习理论，在结构和经验风险之间求优。 启发式搜索 启发式搜索（Heuristically Search）又称为有信息搜索（Informed Search），它是利用问题拥有的启发信息来引导搜索，达到减少搜索范围、降低问题复杂度的目的，这种利用启发信息的搜索过程称为启发式搜索。 强化学习 强化学习（reinforcement learning），又称再励学习、评价学习，是一种重要的机器学习方法，在智能控制机器人及分析预测等领域有许多应用，所谓强化学习就是智能系统从环境到行为映射的学习，以使奖励信号（强化信号）函数值最大，强化学习不同于连接主义学习中的监督学习，主要表现在教师信号上，强化学习中由环境提供的强化信号是对产生动作的好坏作一种评价（通常为标量信号），而不是告诉强化学习系统RLS（reinforcement learning system）如何去产生正确的动作。 试错搜索(trial-and-error earch)和延期强化(delayed reinforcement)这两个特性是强化学习中两个最重要的特性。 强化学习模型： 通过主体与环境的交互进行学习。主体与环境的交互接口包括行动（Action）、奖励（Reward）和状态（State）。交互过程可以表述为如下形式：每一步，主体根据策略选择一个行动执行，然后感知下一步的状态和即时奖励，通过经验再修改自己的策略。主体的目标就是最大化长期奖励。 强化学习系统接受环境状态的输入 s，根据内部的推理机制，系统输出相应的行为动作 a。 环境在系统动作作用 a 下，变迁到新的状态 s′。系统接受环境新状态的输入，同时得到环境对于系统的瞬时奖惩反馈 r。对于强化学习系统来讲，其目标是学习一个行为策略 π：S→A，使系统选择的动作能够获得环境奖励的累计值最大。 强化学习中的Q-学习： 归纳学习 归纳学习是符号学习中研究得最为广泛的一种方法。给定关于某个概念的一系列已知的正例和反例，其任务是从中归纳出一个一般的概念描述。归纳学习能够获得新的概念，创立新的规则，发现新的理论。它的一般的操作是泛化(generalization) 和 特 化(specialization)。 归纳学习可以分为实例学习、观察与发现学习。归纳原理的基本思想是在大量观察的基础上通过假设形成一个科学理论。 归纳学习的一般模式。 给定: ① 观察语句集(事实)F：这是有关某类对象中个别具体对象的知识或某一对象的部分特征的知识。 ② 假定的初始归纳断言(可空)：是关于目标的泛化项或泛化描述。 ③ 背景知识：背景知识定义了在观察语句和所产生的候选归纳断言上的假定和限制，以及任何有关问题领域知识。有关问题领域知识包括特化所找归纳断言的期望性质的择优标准。 寻找: 归纳断言 H (假设), H 重言或弱蕴涵观察语句并满足背景知识。 简单的 AQ 学习算法。 1) 集中注意一个实例(作为种子); 2) 生成该实例的一致性泛化式(称作 star); 3) 根据偏好标准, 从 star 选择最优的泛化式(假设)。如果需要, 特化该假设; 4) 如果该假设覆盖了全部实例, 则停止; 否则选择一个未被假设覆盖的实例,转到(2)。 约束推理 在约束推理方面，针对约束满足搜索中缩小搜索空间与控制推理代价这一对矛盾，提出 了集成式的约束满足搜索算法，设计了智能回溯、约束传播及可变例示次序等策略的适当形 式，并将其有机结合起来，以合理的计算代价有效地缩小了搜索空间。 一个约束满足问题(Constraint Satisfaction Problem, 简称 CSP) 包含一组变量与一组变量间的约束。 约束推理分为以下几种。 关系推理 (2) 标记推理 (3) 值推理 (4) 表达式推理 最简单形式的约束是一元谓词, 即对变量的标记，几种最重要的标记是符号、区间、与 实际值。 约束推理的研究主要集中于两个方面：约束搜索与约束语言。约束搜索主要研究有限域上的约束满足。对有限域而言，约束满足问题一般情况下是 一个 NP 问题。目前大体包括下列方法： （1）回溯法。 （2）约束传播。 （3）智能回溯与真值维护。 （4）可变次序