机器学习十大经典算法之决策树-阿里云开发者社区

机器学习十大经典算法之决策树

2023-01-05 267

版权

本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

简介： 机器学习十大经典算法之决策树

机器学习经典十大算法

机器学习/人工智能的子领域在过去几年越来越受欢迎。目前大数据在科技行业已经炙手可热，而基于大量数据来进行预测或者得出建议的机器学习无疑是非常强大的。一些最常见的机器学习例子，比如Netflix的算法可以根据你以前看过的电影来进行电影推荐，而Amazon的算法则可以根据你以前买过的书来推荐书籍。

机器学习算法可以分为三大类：监督学习、无监督学习和强化学习。监督学习可用于一个特定的数据集（训练集）具有某一属性（标签），但是其他数据没有标签或者需要预测标签的情况。无监督学习可用于给定的没有标签的数据集（数据不是预分配好的），目的就是要找出数据间的潜在关系。强化学习位于这两者之间，每次预测都有一定形式的反馈，但是没有精确的标签或者错误信息。

经典十大算法包括：决策树、朴素贝叶斯分类、最小二乘法、逻辑回归、支持向量机、集成方法、聚类算法、主成分分析（PCA）、Boosting 和 AdaBoost、随机森林。接下来将对这十大算法进行逐一讲解。这篇先讲决策树算法。

决策树算法

在机器学习中，对于处理分类问题，其中比较流行的一个算法便是”决策树”。决策树的生成算法有ID3, C4.5和C5.0等。决策树是一种树形结构，其中每个内部节点表示一个属性上的判断，每个分支代表一个判断结果的输出，最后每个叶节点代表一种分类结果。

监管学习就是给出一堆样本，每个样本都有一组属性和一个分类结果，也就是分类结果已知，那么通过学习这些样本得到一个决策树，这个决策树能够对新的数据给出正确的分类。这里通过一个简单的例子来说明决策树的构成思路：

小明同学和小方同学为了准备即将进行的校园羽毛球大赛，准备近一个月的时间去练习打球。不过，并不是每一天都适合练球。通常，小明和小方需要考虑一些因素来决定今天是否适合打羽毛球，比如：今天是否有场地（若没有室内场地，就只能选择室外场地），如果是要在室外练习的话，天气是否合适，是否会刮风等，例如下表所示：

实际上，上述的问题是一个典型的智能决策问题。首先，它有一些输入的特征，比如场地是市内还是室外，气温是炎热，天气是下雨还是晴天，风速是大还是小；小明和小方通过某种特定的算法，对这一系列的特征进行综合判断，从而得出今天是否应该打球的决策。可以看到，对一个智能决策系统，它有三个重要的组成部分，即特征、算法、决策。下图体现了一个典型的智能决策系统的组成部门，以及各部分之间的输入/输出关系。

在上面的例子中，场地，天气，温度，风速特征选取完成后，开始进行决策，在我们的问题中，决策的内容实际上是将结果分成两类，即是（1）否（0）练球。这一类智能决策问题称为分类问题，决策树是一种简单的处理分类问题的算法.决策树的本质是由多个判断节点组成的树形函数，以一个样本的特征向量X=(X1,X2,X3...Xd) 作为输入，返回一个“决策”，例如判断具有该特征的样本属于哪个类别。简单地说，我们从一个“树根“节点开始，每次生出几个（例如2）分叉节点（称为子节点），再将子节点当成新的根节点，继续往下生出新的子节点，如此重复，直到满足某些停止条件停止决策树的生长。当一棵决策树建立完毕后，我们称最下面的节点（无子节点）为叶节点。其他的节点成为非叶节点。每个非叶节点与一个特征属性相关联，根据此特征属性的值的不同，进行子节点的分叉操作。

所以决策树的生成主要分以下两步，这两步通常通过学习已经知道分类结果的样本来实现。