有监督学习方法.pdfVIP

非监督学习法 本章重点 1. 什么叫非监督学习方法，什么叫有监督学习方法？ 2. 非监督学习方法主要的用途 3. 非监督学习方法的两种基本处理方法：按分布密集程 度划分，与按相似度聚类划分 4. 按分布密度程度划分的基本方法 5. 动态聚类方法与分级聚类方法的概念 6. 典型的动态聚类方法 c-均值算法与 isodata 算法 7. 使用非欧氏距离计算相似度的动态聚类方法 8. 分级聚类方法 本章课前思考题 1. 如果给机器一维数据，机器能自动地找出其中存在的 规律吗？ 2. 有人把非监督学习方法叫无教师的学习，而把第二章 、第三章讨论的内容成为有监督学习，又称有教师的学习，你知 道谁是教师吗？教师的作用体现在哪里？ 3. 机器能总结数据中存在的哪些规律呢？ 4. 机器能总结天气变化的规律，给出天气预报吗？ 5. 机器能炒股吗？ 6. 非监督学习方法与数据有关系吗？ 知识树 5.1 引 言 以前各章讨论的分类器设计方法都是在 本集中的类别标签已知 的条件下进行的，这些 本称为训练 本。在 本标签已知的情况下， 可以统计出各类训练 本不同的描述量，如其概率分布，或在特征空间 分布的区域等，利用这些参数进行分类器设计，称为有监督的学习方法 。然而在实际应用中，不少情况下无法预先知道 本的标签，也就是说 没有训练 本，因而只能从原先没有 本标签的 本集开始进行分类器 设计，这就是通常说的无监督学习方法。对一个具体问题来说有监督与 无监督的作法是不相同的。 人们日常生活中经常要观察事物与分析事物，从中寻找其规律性， 这就是非监督学习方法要解决的问题。例如人们见到图5.1 的道路图时 ，会发现中间有一条带与图中其它区域不同，见到图5.3 会发现在这个 二维空间中有数据显现出聚成两类的现象。这就是事物(对我们来说就 是数据 ) 自身体现出的一些规律性，非监督学习方法就是寻找数据 中体现出来的规律性。从中我们可以强调非监督学习与有监督学习方法 的以下几种不同点： 1． 有监督学习方法必须要有训练集与测试 本。在训练集中找规 律，而对测试 本使用这种规律；而非监督学习没有训练 这一说，只有 一组数据，在该组数据集内寻找规律。 2． 有监督学习方法的目的就是识别事物，识别的结果表现在给待 识别数据加上了标号。因此训练 本集必须由带标号的 本组成。而非 监督学习方法只有要分析的数据集本身，预先没有什么标号。如果发现 数据集呈现某种聚集性，则可按自然的聚集性分类，但不以与某种预先 的分类标号对上号为目的。例如图 7. 1 道路图像，有监督学习方法的目的是找到“道路”，而 非监督学习方法则只是将中间一条带状区域区分开来，本质上 讲与“道路”这个标号没有关系。 3． 非监督学习方法在寻找数据集中的规律性，这种规律性并不一 定要达到划分数据集的目的，也就是说不一定要“分类”。这一点是比有 监督学习方法的用途要广泛。譬如分析一堆数据的主分量，或分析数据 集有什么特点都可以归于非监督学习方法的范畴。 4． 用非监督学习方法分析数据集的主分量与用 k-l 变换计算数据 集的主分量又有区别。应该说后者从方法上讲不是一种学习方法。因此 用 k-l 变换找主分量不属于非监督学习方法，即方法上不是。而通过学 习逐渐找到规律性这体现了学习方法这一点。在人工神经元网络中寻找 主分量的方法属于非监督学习方法。 以上四点