分类： 机器学习

上一篇文章中我们简单的讨论了逻辑回归的基本原理以及算法的推导。本文我们在这个基础上引出一个对于分类问题来说非常重要的概念——决策边界(Decision Boundary)。 阅读全文

逻辑回归(Logistic Regression)，又被称为“对数几率回归”，是一个在各个行业中使用最多的机器学习算法，应用相当广泛。逻辑回归算法从线性回归算法衍生而来，虽然名叫“回归”，但其实是一种解决分类问题的算法。我们接下来就对逻辑回归的一些基础概念进行简单的探讨。 阅读全文

在第二十和第二十一篇笔记中，我们讨论了两种模型正则化的方式——岭回归(Ridge Regression)与LASSO回归(Least Absolute Shrinkage and Selection Operator Regression)。本文中我们对这两种正则化的方式做一个小小的总结与回顾。 阅读全文

LASSO回归(Least Absolute Shrinkage and Selection Operator Regression)是模型正则化的另一种方式。它的功能与岭回归类似，用于解决过拟合或者模型含有的巨大的方差误差的问题。下面我们来看一下LASSO回归的原理还有它与岭回归的不同之处。 阅读全文