数据仓库实验三:分类规则挖掘实验

目录


一、实验目的

通过本实验,进一步理解决策树算法、朴素贝叶斯算法进行分类的原理,并掌握利用Sql Server等工具平台进行分类规则挖掘的方法,掌握挖掘结构、挖掘模型的基本概念,能够使用数据挖掘向导创建数据挖掘结构和模型,掌握数据挖掘设计器的使用方法,掌握模型查看器方法 ,理解分类规则挖掘常用的参数含义和设置方法。

二、实验内容和要求

针对实际需求,构建格式规范的数据集,并能够借助于SQL Server、Weka、SPSS等工具平台,利用决策树(Decision tree)算法、朴素贝叶斯(Naïve Bayes)算法进行分类和预测,正确分析实验结果,完成实验报告。

三、实验步骤

以下以SQL Server作为工具,完成数据集的构建和分类规则的挖掘(利用决策树分类、朴素贝叶斯分类算法)。------以下内容,仅供参考!

1、创建数据库和表

在SSMS中建立DM数据库(模拟不同群体、不同收入、不同信誉的人群是否购买计算机的事实),分别设计DST表(用于建立分类模型的事例表)、DST1表(用于预测的事例表)。DST表的结构和内容如下所示。



DST1表的结构和DST表相同,被用于预测/验证,DST1的内容如下:

DST1有3条记录,其中"是否购买计算机"列为空,待预测后确定。

2、决策树分类规则挖掘

在 Sql Server Business Intelligence Development Studio (BIDS) 采用如下步骤,基于决策树挖掘分类规则。

(1)新建一个 Analysis Services 项目 jueceshu

定义数据源DM.ds,对应的数据库为前面建立的DM数据库。

(2)建立数据源视图

定义数据源视图DM.dsv,它包含DST表,用于基于决策树建立分类模型;

定义数据源视图DM1.dsv,它包含DST1表,基于建立的决策树分类模型进行预测。

数据源视图DM.dsv:

数据源视图DM1.dsv:

(3)建立挖掘结构 DST.dmm

新建挖掘结构,在"创建数据挖掘结构"页面的"您要使用何种数据挖掘技术?"选项下,选中列表中的"Microsoft决策树"。

选择数据源视图为DM。

在"指定表类型"页面上,在DST表的对应行中选中"事例"复选框,并单击下一步按钮。

在"指定定型数据"页面中,将"编号"列设为键列,把"是否购买计算机"设为可预测列,把其它所有列设为输入列。

在"创建测试集"页面上,"测试数据百分比"选项的默认值为30%,将该选项更改为0.

在完成向导页面的"挖掘结构名称"和"挖掘模型名称"中,都输入DST。

单击"挖掘模型"选项卡,右击"Microsoft_Decision_Trees"选项,在出现的快捷菜单中选择"设置算法参数"命令。将COMPLEXITY_PENALTY,MINIMUM_SUPPORT,SCORE_METHOD,SPLIT_METHOD等参数值进行适当设置。



(4)部署决策树挖掘项目并浏览结果

先处理(部署)、再浏览。

在挖掘模型查看器中,浏览决策树分类的结果。

上面已经建立了决策树分类模型。接下来,就可以利用这个分类模型,对DST1表中3个数据样本的"是否购买计算机"列的值进行预测,步骤如下:

① 单击"挖掘模型预测"选项卡,再单击"选择输入表"对话框中的"选择事例表"命令,指定DM1数据源视图中的DST1表。

② 保持默认的字段连接关系,将DST1表中的各个列拖放到下方的列表中,选中"是否购买计算机"字段前面的"源",从下拉列表中选择"DST"选项,而其它字段的数据直接来源于DST1表,只有"是否购买计算机"字段是采用前面训练样本集得到的决策树模型来进行预测的。

③ 在任一空白处右击,并在下拉菜单中选择"结果",出现如下所示的分类结果。

3、朴素贝叶斯分类规则挖掘

朴素贝叶斯分类的应用,还是基于DM数据库的DST和DST1表,DST用于训练,DST1用于预测,过程此处不再进行描述(预测结果与前面的决策树预测的结果相同),请同学们自行模索。

具体步骤与决策树分类规则挖掘类似:

(1)建立挖掘结构 Bayes.dmm
(2)部署朴素贝叶斯挖掘项目并浏览结果

查看"挖掘模型":

点击"挖掘模型查看器":

点击"挖掘模型预测":

查看预测结果:

预测结果和决策树预测结果相同。

四、实验结果分析

1、决策树

学生中,有87.5%购买计算机;非学生中,58.33%购买计算机。由此可见,学生购买计算机的概率比较大。

在非学生中,收入"高"的有75%购买计算机;收入"中"的有50%购买计算机;收入"低"的有25%购买计算机。由此可见,收入越高,购买计算机的概率越高。

2、依赖关系网络

{ \{ {学生 } \} } ⇒ \Rightarrow ⇒ { \{ {是否购买计算机 } \} }是强关联规则。

五、实验总结体会

在挖掘数据仓库中的分类规则实验前,需要对数据进行预处理和清洗,确保数据的质量和完整性,数据的完整性和准确性直接影响了挖掘结果的可信度。这包括去除重复值、处理缺失值和异常值等。

选择合适的特征对于挖掘有效规则至关重要。使用特征选择技术来排除不相关或冗余的特征,以及特征提取技术来创建新的、更有信息量的特征。用特征选择算法来确定最相关的特征,以提高分类模型的准确性和效率。根据实验的目标和数据的特点,选择适合的分类模型。常用的分类算法包括决策树、朴素贝叶斯、支持向量机等。可以通过交叉验证等方法来评估模型的性能。

决策树是一种基于树形结构的分类算法,通过对特征进行逐步划分来进行决策。易于理解和解释,可视化效果好。适用于离散型和连续型数据,处理分类和回归问题都有效。对数据的预处理要求相对较低,对异常值和缺失值有一定的鲁棒性。可以处理大规模数据集,对于非线性关系的数据有较好的适应能力。能够输出清晰的规则,便于理解和应用。

朴素贝叶斯是一种基于贝叶斯定理的概率分类算法,假设特征之间相互独立。计算简单,适用于大规模数据集。主要用于文本分类和情感分析等任务,对于高维度数据和稀疏数据表现较好。需要注意处理连续型数据和处理缺失值的方法。训练和预测速度快,对于数据量大、特征维度高的情况下表现优秀。对于噪声数据有一定的鲁棒性。

在实验结束后,需要对分类模型进行评估。常用的评估指标包括准确率、召回率、F1值等。同时,可以使用混淆矩阵来分析分类结果的详细情况。对于实验结果,需要进行解释和分析。可以通过特征重要性分析、规则提取等方法来理解分类模型的决策过程。

相关推荐
机器学习之心2 小时前
BiTCN-BiGRU基于双向时间卷积网络结合双向门控循环单元的数据多特征分类预测(多输入单输出)
深度学习·分类·gru
qingyunliushuiyu2 小时前
企业为何需要可视化数据分析系统
数据挖掘·数据分析·数据采集·数据可视化·数据分析系统
机器学习之心4 小时前
Bayes-GRU-Attention的数据多特征分类预测Matlab实现
matlab·分类·gru
dundunmm4 小时前
数据挖掘之认识数据
人工智能·机器学习·信息可视化·数据挖掘
程序员非鱼6 小时前
深度学习任务简介:分类、回归和生成
人工智能·深度学习·分类·回归·生成
落魄君子7 小时前
SVM分类-支持向量机(Support Vector Machine)
神经网络·算法·支持向量机·分类
学习BigData15 小时前
【使用PyQt5和YOLOv11开发电脑屏幕区域的实时分类GUI】——选择检测区域
qt·yolo·分类
不会写代码的女程序猿15 小时前
关于ETL的两种架构(ETL架构和ELT架构)
数据仓库·架构·etl
江南野栀子16 小时前
数据可视化-1. 折线图
信息可视化·数据挖掘·数据分析
【建模先锋】19 小时前
故障诊断 | 一个小创新:特征提取+KAN分类
人工智能·分类·数据挖掘