决策树是一种树形结构，树结构中的每个节点都可以理解为是一个规则，通过对规则处理的结果进行分类，最终完成对整体数据的分类，当然也可以用于回归。下面我们就来拿一个是否去爬山的案例来说明，比如通过判断明天是否下雨、是否降温来决定是否去爬山，可以构造出如下的决策树：
要实现一个决策树，最核心的就是要确定每个节点要通过哪个特征来分类，比如在我们上面举的例子中，到底是先判断是否下雨这个特征，还是先判断是否降温这个特征。通常有两种方式可以选择：
2025年10月01日
决策树是一种树形结构，树结构中的每个节点都可以理解为是一个规则，通过对规则处理的结果进行分类，最终完成对整体数据的分类，当然也可以用于回归。下面我们就来拿一个是否去爬山的案例来说明，比如通过判断明天是否下雨、是否降温来决定是否去爬山，可以构造出如下的决策树：
要实现一个决策树，最核心的就是要确定每个节点要通过哪个特征来分类，比如在我们上面举的例子中，到底是先判断是否下雨这个特征，还是先判断是否降温这个特征。通常有两种方式可以选择：
2025年10月01日
添加图片注释，不超过 140 字（可选）
每个人都可以使用的功能强大的统计软件 Minitab质量管理统计工具，全球六西格玛实施的共同语言， 供您在遇到最棘手的业务问题时用来分析数据并找出优质的解决方案。
2025年10月01日
【前言】：文章来自微信公众号【机器学习炼丹术】
全文3155字，预计阅读时间10min
文章目录：
2025年10月01日
分类回归树 CART 是决策树家族中的基础算法，它非常直觉（intuitive），但看网上的文章，很少能把它讲的通俗易懂（也许是我理解能力不够），幸运的是，我在 Youtube 上看到了这个视频(http://1t.click/aMGq)，可以让你在没有任何机器学习基础的情况下掌握 CART 的原理，下面我尝试着把它写出来，以加深印象.
决策树的结构
下图是一个简单的决策树示例：
假设上面这个决策树是一个用来判断病人是否患有心脏病的系统，当病人前来就医时，系统首先会问他：血液循环是否正常？此时如果病人回答是，系统会走左边的分支，并继续问：血管是否不堵塞？如果此时病人回答是，系统便会判断该病人没有患心脏病，反之则会判断他患有心脏病。同理，如果病人的第一个问题的回答是否，则决策树会走到右边的分支，接下来会继续后面的提问，直到来到树的根部，以输出结果。