数据挖掘--分类

数据挖掘--引论

数据挖掘--认识数据

数据挖掘--数据预处理

数据挖掘--数据仓库与联机分析处理

数据挖掘--挖掘频繁模式、关联和相关性:基本概念和方法

数据挖掘--分类

数据挖掘--聚类分析:基本概念和方法


基本概念

决策树归纳

决策树:决策树是一种类似流程图的树结构,其中每个内部结点(非树叶节点)表示在一个属性上的测试,每一个分枝代表该测试的一个输出,而每个树叶节点存放一个类标号,树的最顶层及节点是根节点

属性选择

信息熵

p为概率

先计算总的信息熵=-((p(是)log2(p(是))+p(否)log2(p(否))

属性1种类1熵=-(p(种类1是)log2(种类1是)+p(种类1否)log2(种类1否))

属性1增益=总信息熵-p(种类1)属性1种类1熵-p(种类2)属性1种类2熵

取最大的

信息增益

基尼指数

属性1种类1权重(1-(是)^2-(否)^2)+ 属性1种类2权重(1-(是)^2-(否)^2)取最小的

贝叶斯分类方法

预测类隶属关系的概率例如:一个给定的元组属于另一个特定类的概率

贝叶斯定理

朴素贝叶斯

首先确定类别,不同类别的概率

列出每个类别中各个属性的概率

p(假设某个类别1)p(属性1|某个类别1)p(属性2|某个类别1)

p(假设某个类别2)p(属性1|某个类别2)p(属性2|某个类别2)

分别比较两个的概率,那个高就是哪个类别

ROC曲线

TP(真正例)(True Positive)、FP(假正例)、TN(真负例)(True Negative)、FN(假负例)

TPR=(真正例)/(真正例+假负例)(实际为真的总数)

FPR=假正例

AdaBoost

AdaBoost是一种流行的提升算法,创建分类器的组合,每个给出一个加权投票(评委打分,不由一个人的分数决定,专家和观众占不同的比例,最算出来的才是最终分数)

流程:

1.赋予每个训练元组相同的权重1/d

2.有放回的抽样,形成一个训练集Di

3.把这个训练集拿去训练,训练出分类器Mi

4.使用Di作为检验集,看Mi的错误率error

5.错误率大于0.5就需要重新抽样形成Di,重复步骤

6.找到一个正确的,更新权重(1-error)error

7.直到所有正确的分类元组被找到,规范每个元组权重

高级方法

向后传播分类

后向传播:

1后向传播是一种神经网络学习算法

2神经网络是一组连接/输出单元,每个连接都有一个权重

多层前馈神经网络

1后向传播在多层前馈神经网络上学习

2神经网络由一个输入层和一个输出层,一个或多个隐藏层和一个输出层组成

3.有几个输出单元就有几层神经网络

4.给定足够多的训练样本,多层前馈神经网络可以逼近任何函数,也就是可以去模拟任何问题

5.网络是前馈的,权重不会回送到输入单位

6.网络是全连接的

向后传播

支持向量机

无论在什么纬度,存在一个线性或者非线性的线或者平面可以去分开两个数据集

相关推荐
点控云几秒前
智能私域运营中枢:从客户视角看 SCRM 的体验革新与价值重构
大数据·人工智能·科技·重构·外呼系统·呼叫中心
zhaoyi_he8 分钟前
多模态大模型的技术应用与未来展望:重构AI交互范式的新引擎
人工智能·重构
葫三生1 小时前
如何评价《论三生原理》在科技界的地位?
人工智能·算法·机器学习·数学建模·量子计算
m0_751336392 小时前
突破性进展:超短等离子体脉冲实现单电子量子干涉,为飞行量子比特奠定基础
人工智能·深度学习·量子计算·材料科学·光子器件·光子学·无线电电子
美狐美颜sdk5 小时前
跨平台直播美颜SDK集成实录:Android/iOS如何适配贴纸功能
android·人工智能·ios·架构·音视频·美颜sdk·第三方美颜sdk
DeepSeek-大模型系统教程5 小时前
推荐 7 个本周 yyds 的 GitHub 项目。
人工智能·ai·语言模型·大模型·github·ai大模型·大模型学习
有Li6 小时前
通过具有一致性嵌入的大语言模型实现端到端乳腺癌放射治疗计划制定|文献速递-最新论文分享
论文阅读·深度学习·分类·医学生
郭庆汝6 小时前
pytorch、torchvision与python版本对应关系
人工智能·pytorch·python
小雷FansUnion8 小时前
深入理解MCP架构:智能服务编排、上下文管理与动态路由实战
人工智能·架构·大模型·mcp
资讯分享周8 小时前
扣子空间PPT生产力升级:AI智能生成与多模态创作新时代
人工智能·powerpoint