sklearn随机森林实现(备忘版)

scikit-learn是广泛使用的机器学习python库. sklearn已经实现了决策树及集成模型, 下面是随机森林分类算法实现的示例代码.

import numpy as np
import pandas as pd
from sklearn.ensemble import RandomForestClassifier
dataset=pd.read_table('/path/to/DataSet/Classification/higgs.csv',sep=',', header=None)
data_np=dataset.values;
Y=data_np[:,0]
X=data_np[:,1:28]
clf=RandomForestClassifier(n_estimators=200,min_samples_leaf=5,random_state=101,oob_score=True)
clf.fit(X,Y) # training
clf.oob_score_  # print out-of-bag error

上述代码中, 除了sklearn库, 还需用到numpy.

读取数据集使用了pandas库的read_table, 如果是其他格式数据还需使用其他方法.

随机森林算法有两步, (1) 设置随机森林参数, (2)训练.

Python代码真的是非常简单.