多分类决策树随机森林尚学堂百战程序员线性回归评估.pdfVIP

线性回归 （续） 梯度下降法  上面利用 求解里面对称阵是N维乘以N维的，复杂度是是O N的三次方，换句话说，就是如果你 的特征数量翻倍，你的计算时间大致上要2 的三次方，8倍的慢 梯度下降法 求导 批量梯度下降  初始化W，随机w ，给初值  沿着负梯度方向迭代，更新后的w使得J(w)更小  如果w维度是几百维度，直接算SVD是可以的，几百维度以上一般是梯度下降算法，这个更像是机器 学习，学习嘛， 是学习率、步长  上面这个 其实是把所有样本梯度加起来的结果，因为有个加和符合从1到m，然后更新每个w 的