模糊学习理论的关键定理和一致收敛速度的界_论文.docVIP

摘 摘  要 要  考虑到现实世界的模糊性  本文结合模糊集理论和模糊统计学的知识  对作 为统计学习理论基础的关键定理和学习过程一致收敛速度的界进行推广 给出了 模糊学习理论的关键定理和一致收敛速度的界 提出了模糊学习问题的一般表示 给出了关于模糊数函数的若干定理以及模糊随机变量函数的定理 提出了模糊风 险泛函 模糊经验风险泛函以及模糊经验风险最小化(FERM)归纳原则等概念 证 明了模糊学习理论的关键定理 给出了模糊学习过程一致收敛速度的界  关键词 模糊风险泛函  FERM 原则  关键定理  一致收敛速度的界 Abstract Abstract In view of the fuzzy characteristics of real world, fuzzy set theory and statistics with vague data are combined to generalize key theorem and bounds on rate of uniform convergence of learning processes as the base of statistical learning theory in this thesis. Key theorem and bounds on rate of uniform convergence of fuzzy learning theory are given. Setting of the fuzzy learning problem is brought forward; some theorems about functions of fuzzy number and fuzzy random variable are proved; fuzzy risk functional fuzzy empirical risk functional and FERM principle are presented; key theorem of fuzzy learning theory is proved; bounds on the rate of uniform convergence of fuzzy learning process are advanced. Keywords: fuzzy risk functional; FERM principle; key theorem; bounds on rate of uniform convergence 第 １ 章　　绪　论　  第1章　 绪  论  1. 1 统计学习理论的产生及研究现状 人的智慧中一个很重要的方面是从实例学习的能力 通过对已知事实的分析 总结出规律 预测不能直接观测的事实 在这种学习中 重要的是要能够举一反 三 即利用学习得到的规律 不但可以较好地解释已知的实例 而且能够对未来 的现象或无法观测的现象做出正确的预测和判断 [1] 我们把这种能力叫做推广能力  在人们对机器智能的研究中  希望能够用机器(计算机)来模拟这种学习能力 这就是我们所说的基于数据的机器学习问题 或者简单地称作机器学习问题 机 器学习的目的是 设计某种(某些)方法 使之能够通过对已知数据的学习 找到数 据内在的相互依赖关系 从而对未知数据进行预测或对其性质进行判断 学习机 器的一般模型如下 x G S  y  LM y 1 产生器 G 产生随机向量 x?∈ R n 它们是从固定但未知的概率分布 F ( x) 中独立抽取的  2 训练器  S  对每个输入向量 x 返回一个输出值 y  产生输出的根据是  同样固定但未知的条件分布函数 F ( y x)  3 学习机器  LM  它能够实现一定的函数集 f ( x,? ),???∈??  其中?? 是  参数集合  在学习过程中 学习机器 LM 观测数据对 ( x, y)  训练集  在训练之后 学习  机器必须对任意输入 x 给出输入 y  学习的目标是能够给出输出 y  使之接近训练  器的响应 y  同样  在这里  我们最关心的仍是推广能力问题  -1- 河北大学理学硕士学位论文  我们知道  统计是我们面对数据而又缺乏理论模型时最基本的分析手段 在 传统的统计学体系中 研究的是渐进理论 考虑样本趋于无穷多时的极限特征 并且在求待求的依赖关系之前 除了有限个参数的取值外 我们必须知道它的所 有其他的信息 实践表明 这些先验信息的获取是很难实现的 而且在现实的问 题中 我们所面对的样