机器学习算法笔记(三十五):集成学习初探

从本文开始,我们来讨论机器学习中非常重要的一类方法——集成学习。

一、什么是集成学习

简而言之,集成学习的思路就是:我们在解决一个问题(如分类问题)的时候,选取多种算法参与预测(如下图中的算法都可以解决分类问题),在多个预测结果中,选择出现最多的预测类别做为该样本的最终预测类别。 阅读全文机器学习算法笔记(三十五):集成学习初探

机器学习算法笔记(三十四):使用 SVM 解决回归问题

前两篇文章主要讨论了用 SVM 解决分类问题,本文来讨论一下如何用 SVM 来解决回归问题。

回归问题的本质就是找到一根直线或者曲线,能够最大程度拟合数据点。如何定义拟合,就是不同回归算法的关键 阅读全文机器学习算法笔记(三十四):使用 SVM 解决回归问题

机器学习算法笔记(三十三):SVM 使用多项式特征与核函数

上文中我们处理 SVM 都是使用线性分类的,也就是假设数据集是线性可分的。本文就着重讨论一下使用多项式特征处理非线性数据的 SVM,并且引出“核函数”的概念。 阅读全文机器学习算法笔记(三十三):SVM 使用多项式特征与核函数

机器学习算法笔记(三十二):支撑向量机(SVM)初探

本文开始我们来探讨另一个著名的机器学习算法——支撑向量机(Support Vector Machine,简称 SVM)。使用支撑向量机既可以解决分类问题,也可以解决回归问题,本文就简要讨论一下 SVM 的基础理解与线性 SVM 的实现。 阅读全文机器学习算法笔记(三十二):支撑向量机(SVM)初探