树模型是机器学习领域内，除了深度学习之外，使用的最为广泛，也是变种特别多的一种模型了，树模型的好处是其很容易理解，且相对不容易过拟合，训练时对资源的消耗也更少。最常用树模型包括决策树，随机森林及XGBoost而在去年，南大的周志华教授提出了deep forest，一种借鉴深度学习的树模型，树模型还有其他的更为冷门的变种，例如正则化贪心森林和。这篇文章将始简单的介绍下上述的几种树模型的原理，树模型是最容易理解的，请您放心，本文只有一个公式，是关于信息熵的。

树模型主要用来做分类。最简单的一种叫做决策树，决策树是一个非常接近人类思维的模型。 它形象的说就是一个调查问卷， 把一个最终的决策转化为个若干问题， 每一步得到一个答案， 按照答案的正否来决定下一个问题是什么，如此形成一个树结构， 最后形成一个分类器。 比如经常被举出的例子， 你要买电脑， 要根据很多特征挑选电脑，比如cpu，gpu，硬盘，内存等， 你一定会问你自己一系列问题， 我要买那款cpu，gpu， 硬盘， 内存等，最后做出决策。决策树要做的是把这个过程自动化，最后给我们我们希望的判定结果。