12-7 决策树的局限性

1. 决策树的边界都是与某个轴平行的。

   场景1：

   

   对于图中这样的数据点，决策树给出的决策边界可能是中间这样的，而右边这样的决策边界可能是更好的

   场景2：

   

   对于这些情况可以很好的划分，但如果对数据稍微做一些旋转，划分结果就不一样了，

   

2. 高度依赖于参数，对样本敏感

3. 在之前的训练中得到这样的决策边界

   

   但如果去掉其中一个点，可能就会得到这样的的决策边界

   

决策树本身并不能很好的分类，但它是决策森林的基础。使用决策森林能得到很好的结果。