机器学习试题.docxVIP

2010 年春硕士研究生 机器学习 试题 下列各题每个大题 10 分，共 8 道大题，卷面总分 80 分 注意：在给出算法时，非标准（自己设计的）部分应给出说明。特别是自己设置的参数及变量的意义要说明。 下面是一个例子集。其中，三个正例，一个反例。“ P”为正例、“ N”为反例。这些例子 是关于汽车的。例子有 4 个属性，分别是“产地” 、“生产商” 、“颜色”、“年代”。 产地 生产商 颜色 年代 类别 Japan Honda Blue 1980 P Japan Honda Blue 1990 P USA Chrysler Red 1980 N Japan Honda Red 1980 P 其中：“产地”的值域为 (Japan,USA) 、“生产商”的值域为 (Honda, Chrysler) 、“颜色”的 值域为 (Blue,Red) 、“年代”的值域为 (1980,1990) 。这里规定“假设”的形式为 4 个属性值 约束的合取；每个约束可以为：一个特定值 ( 比如 Japan、 Blue 等 ) 、 ?（表示接受任意值） 和 （表示拒绝所有值） 。例如，下面假设： Japan, ?, Red, ?） 表示日本生产的、红色的汽车。 1） 根据上述提供的训练样例和假设表示，手动执行候选消除算法。特别是要写出处理 了每一个训练样例后变型空间的特殊和一般边界； 2） 列出最后形成的变型空间中的所有假设。 写出 ID3 算法。 ( 要求：除标准 ID3 算法外，要加入“未知属性值”和“过适合”两种情况的处理 ) 。 给出一个求最小属性子集的算法。 给定训练例子集如下表。依据给定的训练例子，使用朴素贝叶斯分类器进行分类。 给定类别未知例子 高度 =矮，头发 =红，眼睛 =兰 ，计算这个例子的类别。 （计算类别时要先列出式子，然后再代入具体的数） 。 例子号 高度 头发 眼睛 类别 1 矮 淡黄 兰 + 2 高 淡黄 兰 + 3 高 红 兰 + 4 高 淡黄 褐 ― 5 矮 黑 兰 ― 6 高 黑 兰 ― 7 高 黑 褐 ― 8 矮 红 褐 ― 5. 给定线性函数 f?( x) w0 w1 x1 wn xn 及误差定义 E 1 ( f ( x) f?( x)) 2 2 x D 第（ 1）页 共（ 2 ）页 其中， xi 是例子 x 的第 i 个属性值， f(x) 是目标函数， D 是训练例子集合。 请给出一个算法， 这个算法能求出一组 Wi 值，使得线性函数 f?(x) 逼近目标函数 f(x) （本题要求写出算法的 步骤，算法步骤的详细程度要符合书中算法的标准） 。 6. 给定例子集（如下表） ，要求： 1）用平面图直观画出例子的分布； 2）给出一种规则好坏 的评判标准； 3) 写出概念聚类算法。 例子 X1 X2 X3 X4 e1 0 A 0 1 e2 0 B 0 0 e3 0 C 1 2 e4 1 A 0 2 e5 1 C 1 1 e6 2 A 1 0 e7 2 B 0 1 e8 2 B 1 2 简述题 简述“机器发现”的三个定律； KBANN、 EBNN、 FOCL是分析学习和归纳学习结合的三个算法。简述这三个算法与单纯的归纳学习方法相比，分别有什么区别或优点。 关于模式定理 1) 分析“选择步”对群体遗传的影响：令 m(s,t) 是群体中模式 s 在时间 t （或第 t 代）的 实例数量， f(h) 是个体 h 的适应度， f (t) 是时间 t （或第 t 代）群体中所有个体的平均 适应度， n 为群体中个体的总数量， u( s, t) 是时间 t （或第 t 代）群体中模式 s 的实例 ? 的平均适应度。在“选择步”中，每个个体被选中的概率为 Pr(h) （ Pr(h) 的计算见公式 (1) ），如果共进行了 n 次独立选择，请给出在第 (t+1) 代（即下一代）的群体中，模式s 的实例存在的期望数量 E[m(s,t+1)] （要求给出分析过程） 。 Pr(h) f ( h) (1) n 1 f ( hi ) 2) 分析“变异步”对群体遗传的影响：令 m(s,t) 是群体中模式 s 在时间 t （或第 t 代）的 实例数量。设在模式 s 中有 R(s) 个确定位，变异操作以概率 Pm 选择一位并改变这位上 的值。如果只考虑变异步对群体遗传的影响，请给出在第 (t+1) 代（即下一代）的群体 中，模式 s 的实例存在的期望数量 E[m(s,t+1)] （要求给出分析过程） 。 第（ 2）页 共（ 2 ）页