机器学习(学习记录).doc

学习程序输入的是数据、事实等各种各样的信息，输出的则是知识，即概念、规则等。 机器学习是靠学习程序实现的。 ? (1)认知模拟 认知模拟研究的主要目的是要通过对人类学习机理的研究和模拟，从根本上解决机器学习方面存在的种种问题。 ?(2)理论性分析 理论性分析研究的主要目的是要从理论上探索各种可能的学习方法，并建立起独立于具体应用领域的学习算法。 ?(3)面向任务的研究 面向任务研究的主要目的是要根据特定任务的要求，建立相应的学习系统。 要使计算机具有某种程度的学习能力，即使计算机能够通过学习增长知识、改进性能、提高智能水平，就需要为他建立相应的学习系统。 如果一个系统能够从某个过程和环境的未知特征中学到有关信息，并把他学到的信息用于未来的估计、分类、决策和控制，以便改进系统的性能，那么他就是学习系统。 系统的学习行为应该具有高度的目的性：即系统应该知道它要学习什么。 系统必须具备适当的结构来记忆已经学到的知识，即能对知识表示和知识组织进行修改和完善。 系统学到的新知识必须有益于改善系统的行为。 系统的能力应该能够在其实际使用过程或同环境的交互过程中不断进化。 一个学习系统应该满足的基本要求： 具有适当的学习环境。 所谓的学习系统的环境，是指学习系统进行学习时的信息来源。例如当把学习系统比作学生时，那么“环境”就是为学生提供学习信息的教师、书本和各种实验、实践条件等，没有这样的环境，学生就无法学习新知识和运用所学知识解决问题。 具有一定的学习能力。 环境仅是为学习系统提供了相应的信息和条件，要从中学到知识，还必须具有适当的学习方法和一定的学习能力。不然的话，也是不会有好的学习效果，或者根本学不到知识的。例如，一个班的不同学生，尽管学习环境相同，但由于学习方法和学习能力不同，却会导致不同的学习效果。 能够运用所学知识求解问题。 学以致用，如果学到的知识不能够解决实际问题，那就失去了学习的作用和意义。 能够通过学习提高自身性能。 提高自身性能，是学习系统应该达到的最终目标。一个学习系统应该能够通过学习增长知识、提高技能、改进性能，使自己能做一些原来不能做的工作，或者可以把原来能做的工作做得更好。 总结如下： 该图给出了学习系统的基本模型，它由4部分组成。其中，环境是以某种形式表达的外界信息集合，它代表外界信息来源；学习环节是将外界信息加工为知识的过程，先从环境获取外部信息，然后对这些信息进行分析、综合、类比、归纳等加工形成知识，并把这些知识放人知识库中；知识库是以某种形式表示的知识集合，用来存放学习环节所得到的知识；执行环节是利用知识库中的知识完成某种任务的过程，并把完 成任务过程中所获得的一些信息反馈给学习环节，以指导进一步的学习。 详细说明： (1)环境与学习环节 ? 环境中信息的水平和质量是影响学习系统设计的第一个重要因素。所谓信息的水平是指信息的一般化程度，或者说是指信息适用范围的广泛性。而信息的一般化程度又是相对于执行环节而言的。高水平信息的一般化程度比较高，能适应于更广泛的问题。低水平信息的一般化程度比较低，只适应于个别问题。无论环境中信息的水平是高还是低，这些信息与执行环节所需信息水平往往是会有差距的，学习环节的任务就是要缩小这一差距。如果环境提供的是高水平信息，学习环节就是要补充遗漏的细节，以便执行环节能将其用于更具体的情况。如果环境提供的是低水平信息，学习环节就要由这些具体实例归纳出适用于一般情况的规则，以便执行环节能将其用于更广的任务。 ? 信息的质量是指信息的正确性和信息在组织上的合理性等。环境中的信息质量对学习难度是有明显影响的。例如，如果环境的示例中有干扰，或示例的次序不合理测学习环节就很难对其进行归纳。 ?(2)知识库 ? 知识库的形式和内容是影响学习系统设计的第二个因素。知识库的形式是与知识表示方 法直接相关的。常用的知识表示方法有谓词、产生式规则、语义网络、框架等。选择知识表示方法的准则有可表达性、推理难度、可修改性及可扩充性等。对知识库中的内容，其初始知识是非常重要的。学习系统不可能在没有任何知识的情况下凭空获取知识，它总是先利用初始知识去理解环境提供的信息，并依此形成和改进假设。学习 系统的学习过程实质上就是对原有知识库的扩充和完善过程。 ?(3)执行环节 执行环节是整个学习系统的核心，它与学习环节之间是相互联系的。学习环节的目的就是要改善执行环节的行为，而执行环节的复杂度、反馈作用及透明性又会反过来对学习环节产生一定的影响。 ①复杂度 ? 不同复杂度的任务，所需要的知识是不一样的。一般来说，一个任务越复杂，它所需要的知识就会越多。例如，一个玩扑克牌的任务大约需要20条规则，而一个稍复杂一点的医学诊断专家系统就需要几百条规则。 ? ②反馈 ? 所有的学习系统都必须有