人工智能经典电子书1. 计算学习理论.pdfVIP

计算学习理论

概述

•从理论上刻画了若干类型的机器学习问题中的困难和

若干类型的机器学习算法的能力

•这个理论要回答的问题是：

–在什么样的条件下成功的学习是可能的？

–在什么条件下某个特定的学习算法可保证成功运行？

•这里考虑两种框架：

–可能近似正确（PAC）

•确定了若干假设类别，判断它们能否从多项式数量的训练样例中

学习得到

•定义了一个对假设空间复杂度的自然度量，由它可以界定归纳学

习所需的训练样例数目

–出错界限框架

•考查了一个学习器在确定正确假设前可能产生的训练错误数量

简介

•机器学习理论的一些问题：

–是否可能独立于学习算法确定学习问题中固有的难

度？

–能否知道为保证成功的学习有多少训练样例是必要

的或充足的？

–如果学习器被允许向施教者提出查询，而不是观察

训练集的随机样本，会对所需样例数目有怎样的影

响？