机器学习算法笔记(八)：梯度下降法初探

梯度下降法(Gradient Descent)不是一个机器学习算法，是一种基于搜索的最优化方法。它的作用是最小化一个损失函数（与之对应的，梯度上升法的作用是最大化一个效用函数）。机器学习中，熟练的使用梯度法（下降法、上升法）求取目标函数的最优解，是非常重要的思想。 阅读全文

机器学习算法笔记(七)：多元线性回归

简单线性回归算法只有一个特征值(x)，但是在真实世界中，我们的样本通常是有成千上万个特征值的。针对这样的样本，我们可以使用多元线性回归来求解。多元线性回归中有多种特征，每一种特征都与 y 呈线性关系，只是线性关系的系数不同。下面就让我们看一下多元线性回归的求解思路以及算法实现。 阅读全文

机器学习算法笔记(六)：衡量一个算法解决回归问题的指标

与分类问题直接统计分类准确率类似，我们也有衡量一个算法解决回归问题的指标。不过因为回归问题预测的是具体的值，衡量回归问题的指标必然不会像分类问题那么简单。本文中主要探讨四种指标，分别是MSE，RMSE，MAE和R Squared。 阅读全文