Python机器学习第8章 回归算法.pptx

第8章 回归算法;8.1 从二次函数到机器学习;8.1.1 二次函数最优求解方法;8.1.2 梯度下降;设想一下，你站在半山坡上，看不到山顶，也看不到山谷，只能看到周围的情景，你要下山，你要怎么做呢？ 对，沿着山坡最大的坡度向下走！当走到下一个位置时，再选择最大的坡度向下走，这样不停的走，我们就可以走到山下。让我们一起来看一下，这个思想在数学上的解释。 回到图8.2，按照下山的思想，我们应该将点向左移动一点。 如图8.3所示，我们从点（80，6400）移动到了点（72,5184）。同样的道理，在这个点我们观察一下，应该继续向左移动。 ;如图8.4所示，我们现在移动了点（64.8, 4199.04）的位置，同样的道理，继续观察，我们还应该向左移动，这样循环往复，我们会不会走到山底呢？ ;如图8.5所示，我们移动了93次，最终到达了点（0,0）位置（这里计算精度是小数点后两位），也就是说我们已经逼近了最小值（0,0）点。 在此过程中每一步下降过程的坐标。 我们用梯度下降的方法实现了求解二次函数的最小值，虽然他不像导数方法那么完美能直接定位到原点（0,0），但是只要我们增加迭代次数，我们就能无限接近最小值点。接下来，我们需要懂得，梯度下降的一些细节，比如每次步长应该如何选择呢？如果步长选择太大，很有可能会越过最小值点。;8.1.3 梯度下降python实现;8.1.4 初始值