从多项式曲线拟合到模式识别的相关概念-ZCLSPACE.PDFVIP

从多项式曲线拟合到模式识别的相关概念 目录 问题模型 多项式拟合 找到合适的和 修正误差函数 总结 多项式曲线拟合是一个经典的机器学习入 门案例。我在不止一本教科书上 看到过 。此处的笔记来自于獂獩獳獨獯獰 的獐獒獍獌 。在阅读这个案例的过程中，被獂獩獳獨獯獰 的 组织能力折服：诸多概念在不经意间被 引入 ，毫无违和感。另外通读獐獒獍獌之 后，会发现多项式拟合的例子在獐獒獍獌 中被反复提及，从这个简单的案例中可 以看到许多更高级算法的影子 。 问题模型 简而言之，这是一个用多项式来逼近正弦函数 的例子 。在这个例子 中的观 察数据可以表示为： 猽 獳獩獮猨猲猩 猫 其 中是噪声。这个问题模型像极了通信系统中的加性白高斯噪声信道模型 （獁獗獇獎 ） 猽 猫 。假设我们有关于这个模型的 次观测，也就是说我们有长为 的 猽 猨 猩 以及其对应的观测值 猽 猨 猩 。图猱给 出了这个模型的十 次观测结果和真实的正弦曲线 。 猱 猲 多项式拟合 图 猱猺 模型 猽 獳獩獮猨猲猩 猫 的十次观测 图猱中的蓝色圆圈代表十次观测值，绿色代表真实的结果。我们的目标是在 不知道绿色 曲线的前提下根据新的输入值预测 目标值 。图猱 中的输入值是獛猰 猱獝区 间内随机选择的十个值。然后根据所选的 ，带入獳獩獮猨猲猩，生成十个精确的值， 然后把这十个生成值加上一定量 的噪声， 目标数据集合就这样诞生了。（注意 这里没有说加上多少噪声，在通信系统中，我们叫做信噪比不确定。獂獩獳獨獯獰在獐獒獍獌 中 也没有指明到底是功率为多少的噪声，只说了 ）我们明白这十个数是有内在约束的，即也 就是獳獩獮猨猲猩这个函数，这个函数是我们学习的目标，我们拿到这十个数 的时 候是不知道这个模型的存在的。 多项式拟合 通过充分挖掘给定数据，我们希望对任何给定 的新 的输入獞，给 出一个输 獞 獞 出值 ，使得这个尽可能的 准确 猨稍后我会给 出 准确 这个词 的精确含义猩。这 个问题 的难点在于我们需要从十分有限的数据中发现潜在的数学模型獳獩獮猨猲猩。 雪上加霜的是，这些数据还受到了噪声的污染。 现在，我们从最直观简单的数学方法入手：曲线拟合。特别的，我们把这 个潜在的数学模型獳獩獮猨猲猩放在多项式空间中，也就是说我们认为这个潜在的 模型存在于猨猱 猩 成的空间中。 猫 猱是这个多项式空间的维度。所以 多项式拟合的结果可以表示为： 猨 猩 猽 猫 猫 猫 猽 猨猲献猱猩 欢迎访 问獺獣獬 的獳獰獡獣獥 ：獺獣獬献獳獰獡獣獥 猲猯 猹