sklearn中的决策树-分类树：实例-分类树在合成数据集上的表现

亲持红叶2025-02-26 20:49

分类树实例：分类树在合成数据集上的表现

代码分解

  • 在不同结构的据集上测试一下决策树的效果（二分型，月亮形，环形）

  • 导入

    python 复制代码 
    import numpy as np
from matplotlib import pyplot as plt
from matplotlib.colors import ListedColormap
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import StandardScaler
from sklearn.datasets import make_moons,make_circles,make_classification
from sklearn.tree import DecisionTreeClassifier
from sklearn.model_selection import cross_val_score

  • 生成三种数据集（月亮形、环形、二分型）

    python 复制代码 
    X,y = make_classification(n_samples=100 # 生成100个样本
                          ,n_features=2 # 包含两个特征
                          ,n_redundant=0 # 添加冗余特征0个
                          ,n_informative=2 # 包含信息的特征是2个
                          ,random_state=1 # 随机数种子
                          ,n_clusters_per_class=1 # 每个簇内包含的标签类别有2个
                         )
plt.scatter(X[:,0],X[:,1])

    ​

    图上可以看出，生成的二分型数据的两个簇离彼此很远，可能分类边界过于明显，使用交叉验证尝试看一下是否分类效果特别好

    python 复制代码 
    for i in range(1,11):
    clf = DecisionTreeClassifier()
    cross_val = cross_val_score(clf,X,y,cv=10).mean()
    print(cross_val)
    
"""输出"""
1.0
1.0
1.0
1.0
1.0
1.0
1.0
1.0
1.0
1.0

    交叉验证看，效果太好，这样不利于我们测试分类器的效果，因此我们使用np生成 随机数组通过让已经生成的二分型数据点加减0~1之间的随机数使数据分布变得更散更稀疏 注意，这个过程只能够运行一次，因为多次运行之后X会变得非常稀疏，两个簇的数据会混合在一起，分类器的效应会 继续下降。

    python 复制代码 
    rng = np.random.RandomState(2) # 生成一种随机模式
X += 2*rng.uniform(size=X.shape)# 加减0-1之间的随机数
Linearly_separable = (X,y)
plt.figure(figsize=(12,8))
plt.scatter(X[:,0],X[:,1])

    ​

    依次生成月亮型环形数据，并并入datasets中

    python 复制代码 
    # 用make_moons创建月亮型数据
X,y = make_moons(noise=0.3
                 ,random_state=0
                )
Moons_data = (X,y)

# 用make_circles创建环形数据
X,y = make_circles(noise=0.2
                   ,factor=0.5
                   ,random_state=1
                  )
Circle_data = (X,y)

datasets = (Moons_data,Circle_data,Linearly_separable)

  • 画出三种数据集和三颗决策树的分类效应图像

    python 复制代码 
    """画出三种数据集和三颗决策树的分类效应图像"""
figure = plt.figure(figsize=(12,18))
i = 1 # 设置用来安排图像显示位置的全局变量i

# 开始迭代数据，对datasets中的数据进行for循环

for ds_index,ds in enumerate(datasets):
    X,y = ds
    X = StandardScaler().fit_transform(X)
    X_train,X_test,y_train,y_test = train_test_split(X
                                                     ,y
                                                     ,test_size=.4
                                                     ,random_state=42)
    # 找出数据集中两个特征的最大值和最小值，让最大值+0.5，最小值-0.5，创造一个比两个特征的区间本身更大 一点的区间
    x1_min,x1_max = X[:,0].min() - .5,X[:,0].max() + .5
    x2_min,x2_max = X[:,1].min() - .5,X[:,1].max() + .5
    
    #用特征向量生成网格数据，网格数据，其实就相当于坐标轴上无数个点 
    #函数np.arange在给定的两个数之间返回均匀间隔的值，0.2为步长 
    #函数meshgrid用以生成网格数据，能够将两个一维数组生成两个二维矩阵。 
    #如果第一个数组是narray，维度是n，第二个参数是marray，维度是m。那么生成的第一个二维数组是以narray为行，m行的矩阵，而第二个二维数组是以marray的转置为列，n列的矩阵 
    #生成的网格数据，是用来绘制决策边界的，因为绘制决策边界的函数contourf要求输入的两个特征都必须是二维的
    array1,array2 = np.meshgrid(np.arange(x1_min, x1_max, 0.2),
                         np.arange(x2_min, x2_max, 0.2))
    #接下来生成彩色画布 
    #用ListedColormap为画布创建颜色，#FF0000正红，#0000FF正蓝 
    cm = plt.cm.RdBu
    cm_bright = ListedColormap(['#FF0000', '#0000FF'])
    #在画布上加上一个子图，数据为len(datasets)行，2列，放在位置i上 
    ax = plt.subplot(len(datasets), 2, i)
    #到这里为止，已经生成了0~1之间的坐标系3个了，接下来为我们的坐标系放上标题 
    #我们有三个坐标系，但我们只需要在第一个坐标系上有标题，因此设定if ds_index==0这个条件 
    if ds_index == 0:
        ax.set_title("Input data")
    #将数据集的分布放到我们的坐标系上
    #先放训练集
    ax.scatter(X_train[:, 0], X_train[:, 1], c=y_train,
               cmap=cm_bright,edgecolors='k')
    # 放测试集
    ax.scatter(X_test[:, 0]
               , X_test[:,1]
               ,c=y_test
               ,cmap=cm_bright
               ,alpha=0.6
               ,edgecolors='k'
              )
    #为图设置坐标轴的最大值和最小值，并设定没有坐标轴 
    ax.set_xlim(array1.min(), array1.max()) 
    ax.set_ylim(array2.min(), array2.max()) 
    ax.set_xticks(())
    ax.set_yticks(())
    
    #每次循环之后，改变i的取值让图每次位列不同的位置
    i+=1
    
    #至此为止，数据集本身的图像已经布置完毕，运行以上的代码，可以看见三个已经处理好的数据集 
    #############################从这里开始是决策树模型##########################
    #在这里，len(datasets)其实就是3，2是两列 
    #在函数最开始，我们定义了i=1，并且在上边建立数据集的图像的时候，已经让i+1,所以i在每次循环中的取值是2，4，6
    ax = plt.subplot(len(datasets),2,i)
    #决策树的建模过程:实例化 → fit训练 → score接口得到预测的准确率 
    clf = DecisionTreeClassifier(max_depth=5) 
    clf.fit(X_train, y_train)
    score = clf.score(X_test, y_test)
    #绘制决策边界，为此，我们将为网格中的每个点指定一种颜色[x1_min，x1_max] x [x2_min，x2_max] 
    #分类树的接口，predict_proba，返回每一个输入的数据点所对应的标签类概率 
    #类概率是数据点所在的叶节点中相同类的样本数量/叶节点中的样本总数量 
    #由于决策树在训练的时候导入的训练集X_train里面包含两个特征，所以我们在计算类概率的时候，也必须导入结构相同的数组，即是说，必须有两个特征 
    #ravel()能够将一个多维数组转换成一维数组 
    #np.c_是能够将两个数组组合起来的函数
    
    #在这里，我们先将两个网格数据降维降维成一维数组，再将两个数组链接变成含有两个特征的数据，再带入决策 树模型，生成的Z包含数据的索引和每个样本点对应的类概率，再切片，切出类概率
    Z = clf.predict_proba(np.c_[array1.ravel(),array2.ravel()])[:, 1]
    #np.c_[np.array([1,2,3]), np.array([4,5,6])]
    #将返回的类概率作为数据，放到contourf里面绘制去绘制轮廓
    Z = Z.reshape(array1.shape)
    ax.contourf(array1, array2, Z, cmap=cm, alpha=.8)
    #将数据集的分布放到我们的坐标系上
    # 将训练集放到图中去
    ax.scatter(X_train[:, 0], X_train[:, 1], c=y_train, cmap=cm_bright,
                edgecolors='k') 
    # 将测试集放到图中去
    ax.scatter(X_test[:, 0], X_test[:, 1], c=y_test, cmap=cm_bright,
               edgecolors='k', alpha=0.6)
    #为图设置坐标轴的最大值和最小值 
    ax.set_xlim(array1.min(), array1.max()) 
    ax.set_ylim(array2.min(), array2.max()) 
    #设定坐标轴不显示标尺也不显示数字 
    ax.set_xticks(())
    ax.set_yticks(())
    #我们有三个坐标系，但我们只需要在第一个坐标系上有标题，因此设定if ds_index==0这个条件 
    if ds_index == 0:
        ax.set_title("Decision Tree")
    #写在右下角的数字
    ax.text(array1.max() - .3, array2.min() + .3, ('{:.1f}%'.format(score*100)),
            size=15, horizontalalignment='right') 
    
    #让i继续加一
    i += 1
    
plt.tight_layout()
plt.show()

    ​

  • 从图上来看，每一条线都是决策树在二维平面上画出的一条决策边界，每当决策树分枝一次，就有一条线出现。当数据的维度更高的时候，这条决策边界就会由线变成面，甚至变成我们想象不出的多维图形。

    同时，很容易看得出，分类树天生不擅长环形数据。每个模型都有自己的决策上限，所以一个怎样调整都无法提升 表现的可能性也是有的。当一个模型怎么调整都不行的时候，我们可以选择换其他的模型使用，不要在一棵树上吊 死。顺便一说:

    1. 最擅长月亮型数据的是最近邻算法，RBF支持向量机和高斯过程;
    2. 最擅长环形数据的是最近邻算法 和高斯过程;
    3. 最擅长对半分的数据的是朴素贝叶斯，神经网络和随机森林。
所有代码

  • 所有代码

    python 复制代码 
    import numpy as np
from matplotlib import pyplot as plt
from matplotlib.colors import ListedColormap
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import StandardScaler
from sklearn.datasets import make_moons,make_circles,make_classification
from sklearn.tree import DecisionTreeClassifier
from sklearn.model_selection import cross_val_score

"""生成三种数据集（月亮形、环形、二分型）"""
#make_classification生成二分型数据
X,y = make_classification(n_samples=100 # 生成100个样本
                          ,n_features=2 # 包含两个特征
                          ,n_redundant=0 # 添加冗余特征0个
                          ,n_informative=2 # 包含信息的特征是2个
                          ,random_state=1 # 随机数种子
                          ,n_clusters_per_class=1 # 每个簇内包含的标签类别有2个
                         )

for i in range(1,11):
    clf = DecisionTreeClassifier()
    cross_val = cross_val_score(clf,X,y,cv=10).mean()
    print(cross_val)
plt.figure(figsize=(12,8))
plt.scatter(X[:,0],X[:,1])
plt.title('make_classification')
plt.show()

##从交叉验证和图上可以看出，生成的二分型数据的两个簇离彼此很远
# ，这样不利于我们测试分类器的效果，因此我们使用np生成 随机数组
# ，通过让已经生成的二分型数据点加减0~1之间的随机数
# ，使数据分布变得更散更稀疏 
#注意，这个过程只能够运行一次，因为多次运行之后X会变得非常稀疏，两个簇的数据会混合在一起，分类器的效应会 继续下降
rng = np.random.RandomState(2) # 生成一种随机模式
X += 2*rng.uniform(size=X.shape)# 加减0-1之间的随机数
Linearly_separable = (X,y)
plt.figure(figsize=(12,8))
plt.scatter(X[:,0],X[:,1])



# 用make_moons创建月亮型数据
X,y = make_moons(noise=0.3
                 ,random_state=0
                )
Moons_data = (X,y)

# 用make_circles创建环形数据
X,y = make_circles(noise=0.2
                   ,factor=0.5
                   ,random_state=1
                  )
Circle_data = (X,y)

datasets = (Moons_data,Circle_data,Linearly_separable)

"""画出三种数据集和三颗决策树的分类效应图像"""
figure = plt.figure(figsize=(12,18))
i = 1 # 设置用来安排图像显示位置的全局变量i

# 开始迭代数据，对datasets中的数据进行for循环

for ds_index,ds in enumerate(datasets):
    X,y = ds
    X = StandardScaler().fit_transform(X)
    X_train,X_test,y_train,y_test = train_test_split(X
                                                     ,y
                                                     ,test_size=.4
                                                     ,random_state=42)
    # 找出数据集中两个特征的最大值和最小值，让最大值+0.5，最小值-0.5，创造一个比两个特征的区间本身更大 一点的区间
    x1_min,x1_max = X[:,0].min() - .5,X[:,0].max() + .5
    x2_min,x2_max = X[:,1].min() - .5,X[:,1].max() + .5
    
    #用特征向量生成网格数据，网格数据，其实就相当于坐标轴上无数个点 
    #函数np.arange在给定的两个数之间返回均匀间隔的值，0.2为步长 
    #函数meshgrid用以生成网格数据，能够将两个一维数组生成两个二维矩阵。 
    #如果第一个数组是narray，维度是n，第二个参数是marray，维度是m。那么生成的第一个二维数组是以narray为行，m行的矩阵，而第二个二维数组是以marray的转置为列，n列的矩阵 
    #生成的网格数据，是用来绘制决策边界的，因为绘制决策边界的函数contourf要求输入的两个特征都必须是二维的
    array1,array2 = np.meshgrid(np.arange(x1_min, x1_max, 0.2),
                         np.arange(x2_min, x2_max, 0.2))
    #接下来生成彩色画布 
    #用ListedColormap为画布创建颜色，#FF0000正红，#0000FF正蓝 
    cm = plt.cm.RdBu
    cm_bright = ListedColormap(['#FF0000', '#0000FF'])
    #在画布上加上一个子图，数据为len(datasets)行，2列，放在位置i上 
    ax = plt.subplot(len(datasets), 2, i)
    #到这里为止，已经生成了0~1之间的坐标系3个了，接下来为我们的坐标系放上标题 
    #我们有三个坐标系，但我们只需要在第一个坐标系上有标题，因此设定if ds_index==0这个条件 
    if ds_index == 0:
        ax.set_title("Input data")
    #将数据集的分布放到我们的坐标系上
    #先放训练集
    ax.scatter(X_train[:, 0], X_train[:, 1], c=y_train,
               cmap=cm_bright,edgecolors='k')
    # 放测试集
    ax.scatter(X_test[:, 0]
               , X_test[:,1]
               ,c=y_test
               ,cmap=cm_bright
               ,alpha=0.6
               ,edgecolors='k'
              )
    #为图设置坐标轴的最大值和最小值，并设定没有坐标轴 
    ax.set_xlim(array1.min(), array1.max()) 
    ax.set_ylim(array2.min(), array2.max()) 
    ax.set_xticks(())
    ax.set_yticks(())
    
    #每次循环之后，改变i的取值让图每次位列不同的位置
    i+=1
    
    #至此为止，数据集本身的图像已经布置完毕，运行以上的代码，可以看见三个已经处理好的数据集 
    #############################从这里开始是决策树模型##########################
    #在这里，len(datasets)其实就是3，2是两列 
    #在函数最开始，我们定义了i=1，并且在上边建立数据集的图像的时候，已经让i+1,所以i在每次循环中的取值是2，4，6
    ax = plt.subplot(len(datasets),2,i)
    #决策树的建模过程:实例化 → fit训练 → score接口得到预测的准确率 
    clf = DecisionTreeClassifier(max_depth=5) 
    clf.fit(X_train, y_train)
    score = clf.score(X_test, y_test)
    #绘制决策边界，为此，我们将为网格中的每个点指定一种颜色[x1_min，x1_max] x [x2_min，x2_max] 
    #分类树的接口，predict_proba，返回每一个输入的数据点所对应的标签类概率 
    #类概率是数据点所在的叶节点中相同类的样本数量/叶节点中的样本总数量 
    #由于决策树在训练的时候导入的训练集X_train里面包含两个特征，所以我们在计算类概率的时候，也必须导入结构相同的数组，即是说，必须有两个特征 
    #ravel()能够将一个多维数组转换成一维数组 
    #np.c_是能够将两个数组组合起来的函数
    
    #在这里，我们先将两个网格数据降维降维成一维数组，再将两个数组链接变成含有两个特征的数据，再带入决策 树模型，生成的Z包含数据的索引和每个样本点对应的类概率，再切片，切出类概率
    Z = clf.predict_proba(np.c_[array1.ravel(),array2.ravel()])[:, 1]
    #np.c_[np.array([1,2,3]), np.array([4,5,6])]
    #将返回的类概率作为数据，放到contourf里面绘制去绘制轮廓
    Z = Z.reshape(array1.shape)
    ax.contourf(array1, array2, Z, cmap=cm, alpha=.8)
    #将数据集的分布放到我们的坐标系上
    # 将训练集放到图中去
    ax.scatter(X_train[:, 0], X_train[:, 1], c=y_train, cmap=cm_bright,
                edgecolors='k') 
    # 将测试集放到图中去
    ax.scatter(X_test[:, 0], X_test[:, 1], c=y_test, cmap=cm_bright,
               edgecolors='k', alpha=0.6)
    #为图设置坐标轴的最大值和最小值 
    ax.set_xlim(array1.min(), array1.max()) 
    ax.set_ylim(array2.min(), array2.max()) 
    #设定坐标轴不显示标尺也不显示数字 
    ax.set_xticks(())
    ax.set_yticks(())
    #我们有三个坐标系，但我们只需要在第一个坐标系上有标题，因此设定if ds_index==0这个条件 
    if ds_index == 0:
        ax.set_title("Decision Tree")
    #写在右下角的数字
    ax.text(array1.max() - .3, array2.min() + .3, ('{:.1f}%'.format(score*100)),
            size=15, horizontalalignment='right') 
    
    #让i继续加一
    i += 1
    
plt.tight_layout()
plt.show()
相关推荐
早退的程序员9 小时前
全市场大模型分类及对比分析报告
人工智能·分类·数据挖掘
阿正的梦工坊9 小时前
矩阵的 正定（Positive Definite）与负定（Negative Definite）：从Fisher信息矩阵看“曲率”的秘密
决策树·机器学习·矩阵
亲持红叶17 小时前
sklearn中的决策树
人工智能·决策树·sklearn
gis收藏家18 小时前
使用机器学习进行土地覆盖分类
人工智能·机器学习·分类
ViniJack21 小时前
LLM全栈框架完整分类清单（预训练+微调+工具链）
人工智能·深度学习·机器学习·分类·数据挖掘·transformer
羊小猪~~1 天前
深度学习基础--ResNet网络的讲解，ResNet50的复现(pytorch)以及用复现的ResNet50做鸟类图像分类
网络·pytorch·深度学习·神经网络·机器学习·分类·resnet
说来世事不如闲~2 天前
AI人工智能之机器学习sklearn-数据预处理和划分数据集
人工智能·python·机器学习·sklearn
亲持红叶2 天前
sklearn中的决策树-分类树：剪枝参数
决策树·分类·sklearn
MaximusCoder2 天前
（论文）使ConvNeXt模型适应语音数据集上的音频分类
人工智能·经验分享·安全·分类·音视频
热门推荐
01DeepSeek各版本说明与优缺点分析02本地部署DeepSeek教程（Mac版本）03如何在WPS和Word/Excel中直接使用DeepSeek功能04微软正式发布.NET 10 Preview 1：开启下一代开发框架新篇章05太炸裂了！清华大学deepseek从入门到精通使用手册又出第三版了，《普通人如何抓住DeepSeek红利》（无套路，直接下载）06DeepSeek本地部署详细指南07DeepSeek R1本地化部署 Ollama + Chatbox 打造最强 AI 工具08本地化部署AI知识库：基于Ollama+DeepSeek+AnythingLLM保姆级教程09DeepSeek r1本地安装全指南10保姆级教程：利用Ollama与Open-WebUI本地部署 DeedSeek-R1大模型