Python实现决策树(Decision Tree)算法

在 Python 中实现一个决策树算法,可以使用 sklearn 库中的 DecisionTreeClassifier 类。这个类实现了分类任务中的决策树算法。下面是一个简单的例子,展示如何使用 DecisionTreeClassifier 来训练决策树并进行预测。

1. 安装 scikit-learn

如果你还没有安装 scikit-learn,可以使用以下命令来安装它:

pip install scikit-learn

2. 示例代码

下面的代码展示了如何使用决策树算法来进行分类任务:

复制代码
# 导入必要的库
from sklearn.datasets import load_iris
from sklearn.model_selection import train_test_split
from sklearn.tree import DecisionTreeClassifier
from sklearn.metrics import accuracy_score
from sklearn.tree import export_text

# 加载鸢尾花数据集
iris = load_iris()
X = iris.data  # 特征数据
y = iris.target  # 标签数据

# 切分数据集,70%训练,30%测试
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=42)

# 创建决策树分类器
clf = DecisionTreeClassifier(random_state=42)

# 训练决策树模型
clf.fit(X_train, y_train)

# 在测试集上做预测
y_pred = clf.predict(X_test)

# 打印预测准确度
accuracy = accuracy_score(y_test, y_pred)
print(f'Accuracy: {accuracy:.4f}')

# 打印决策树的结构
tree_rules = export_text(clf, feature_names=iris['feature_names'])
print("Decision Tree Rules:\n", tree_rules)

3. 代码解释

  1. 数据加载 : 这里使用的是鸢尾花(Iris)数据集,load_iris() 用来加载数据集,它包含了四个特征和三个类别。
  2. 数据切分 : 使用 train_test_split() 方法将数据集切分成训练集和测试集,70% 用于训练,30% 用于测试。
  3. 决策树模型训练 : 使用 DecisionTreeClassifier 来创建一个决策树模型,并通过 .fit() 方法在训练数据上训练模型。
  4. 预测与评估 : 使用 .predict() 对测试集进行预测,并用 accuracy_score 来评估模型的准确度。
  5. 可视化决策树规则 : 使用 export_text() 打印出模型的决策树规则,这些规则展示了如何根据特征来做分类。

4. 可视化决策树(可选)

为了更好地理解决策树,你还可以可视化树形结构。可以使用 plot_tree 方法来可视化:

复制代码
from sklearn.tree import plot_tree
import matplotlib.pyplot as plt

# 可视化决策树
plt.figure(figsize=(12, 8))
plot_tree(clf, feature_names=iris['feature_names'], class_names=iris['target_names'], filled=True)
plt.show()

这个图形会展示每个节点的决策条件,以及分类的结果。

结论

上面的代码是一个基本的决策树分类器实现。你可以根据不同的数据集和任务来调整模型的参数,例如 max_depth(树的最大深度)或者 min_samples_split(每个内部节点需要的最小样本数)。

相关推荐
习习.y3 分钟前
python笔记梳理以及一些题目整理
开发语言·笔记·python
撸码猿10 分钟前
《Python AI入门》第10章 拥抱AIGC——OpenAI API调用与Prompt工程实战
人工智能·python·aigc
qq_3862189922 分钟前
Gemini生成的自动搜索和下载论文的python脚本
开发语言·python
vx_vxbs6627 分钟前
【SSM电影网站】(免费领源码+演示录像)|可做计算机毕设Java、Python、PHP、小程序APP、C#、爬虫大数据、单片机、文案
java·spring boot·python·mysql·小程序·php·idea
稚辉君.MCA_P8_Java2 小时前
Gemini永久会员 Java中的四边形不等式优化
java·后端·算法
稚辉君.MCA_P8_Java2 小时前
通义 插入排序(Insertion Sort)
数据结构·后端·算法·架构·排序算法
烤汉堡2 小时前
Python入门到实战:post请求+cookie+代理
爬虫·python
无限进步_3 小时前
C语言动态内存的二维抽象:用malloc实现灵活的多维数组
c语言·开发语言·数据结构·git·算法·github·visual studio
luod3 小时前
Python异常链
python
Swift社区3 小时前
LeetCode 432 - 全 O(1) 的数据结构
数据结构·算法·leetcode