Machine leading 中Missing Values可视化--missingo

快速可视化数据集中缺失值的好工具是专门的库-missuno。我们将在下面演示它。

1安装

py 复制代码
pip install missingno

2查看缺失值

py 复制代码
for col in train_events.columns:
    percent_nan = train_events[col].isnull().mean() * 100
    msg = f"column: {col:>10}\t Percent of NaN value: {percent_nan:.2f}%"
    print(f"\n---> {msg}")
    ```


---> column:  series_id	 Percent of NaN value: 0.00%

---> column:      night	 Percent of NaN value: 0.00%

---> column:      event	 Percent of NaN value: 0.00%

---> column:       step	 Percent of NaN value: 33.93%

---> column:  timestamp	 Percent of NaN value: 33.93%

---> column:       year	 Percent of NaN value: 33.93%

---> column:      month	 Percent of NaN value: 33.93%

---> column:        day	 Percent of NaN value: 33.93%

---> column:       hour	 Percent of NaN value: 33.93%
ini 复制代码
# 3使用方法
1. bar方法
```py
import missingno as msno
msno.bar(train, color=(0.4,0.4,0.6))
  1. matrix()
py 复制代码
msno.matrix(train_events, color=(0.3,0.3,0.5))

根据图表中白线的数量,我们可以推断数据集中的缺失值情况。观察到白线越多,说明数据集中的缺失值越多。图表左侧的纵坐标显示了样本数量的起始和结束值,即数据集包含了14508条数据。右下角的数字3表示数据集中有3列没有缺失值,而右侧的数字9表示数据集总共有9列数据。

  1. heatmap()
  • 缺失变量的相关关系
  • 相关热missingno图衡量无效相关性:一个变量的存在或不存在对另一个变量的存在的影响程度:
py 复制代码
msno.heatmap(train_events)
  1. dendrogram():
py 复制代码
msno.train_events(train_events)

树状图通过一种分层聚类算法(由Scipy提供)可以更全面地揭示变量之间的关联关系,进一步展示出比相关热图中可见的成对趋势更深入的趋势。

在树状图的构建过程中,变量根据它们之间的无效相关性(以二进制距离衡量)被彼此分类。在每一步的分割中,选择能够最小化剩余簇之间距离的组合方式。当变量集合越单调时,它们的总距离越接近于零,同时它们的平均距离(y轴)也越接近于零。

官方文档

相关推荐
AutumnorLiuu12 小时前
【红外小目标检测实战 五】轻量化模型结构及去除DFL以加速边缘推理
人工智能·深度学习·机器学习
武子康12 小时前
大数据-212 K-Means 聚类实战指南:从无监督概念到 Inertia、K 值选择与避坑
大数据·后端·机器学习
jiayong2312 小时前
model.onnx 深度分析报告(系列汇总)
人工智能·机器学习·自动化
2301_8002561112 小时前
【人工智能引论期末复习】第4章 机器学习1-基础知识
人工智能·算法·机器学习
郝学胜-神的一滴12 小时前
机器学习特征预处理:缺失值处理全攻略
人工智能·python·程序人生·机器学习·性能优化·sklearn
深度之眼12 小时前
Science子刊超绝idea:注意力机制+强化学习!足式机器人障碍穿越首次达成 100% 成功率
深度学习·机器学习·注意力机制
一颗烂土豆12 小时前
ECharts 水球图不够炫?试试 RayChart 的创意可视化玩法
前端·vue.js·数据可视化
2501_9449347312 小时前
中专财务人员转型数据分析的可行性分析
数据挖掘·数据分析
QiZhang | UESTC12 小时前
【豆包写的】二分类交叉熵损失函数(BCE Loss)详细推导
机器学习·损失函数·分类任务
冰西瓜60012 小时前
从项目入手机器学习——(二)数据预处理(中)泰坦尼克号
人工智能·机器学习