神经网络的可解释性理论及工具

1.可解释性分析简介

explainable AI:why,利用决策树

eg:

interpretable AI:how

2.机器学习的可解释性

解释工具:

按输入对输出的贡献值。

然后把值sigmoid成0-1.

例子:

就是去计算,有你和没你,能有多大区S别。

SHAP包 去搜一下用

单个样本的

全部样本的

3.图像识别的可解释性

相关推荐
学行库小秘3 分钟前
基于门控循环单元的数据回归预测 GRU
人工智能·深度学习·神经网络·算法·回归·gru
XIAO·宝21 分钟前
机器学习--数据预处理
人工智能·机器学习·数据预处理
爱喝奶茶的企鹅26 分钟前
Ethan独立开发新品速递 | 2025-08-21
人工智能
爱喝奶茶的企鹅28 分钟前
Ethan开发者创新项目日报 | 2025-08-21
人工智能
算家计算44 分钟前
字节跳动开源Seed-OSS-36B:512K上下文,代理与长上下文基准新SOTA
人工智能·开源·资讯
THMAIL1 小时前
大模型“知识”的外挂:RAG检索增强生成详解
人工智能
汀丶人工智能1 小时前
AI Compass前沿速览:DINOv3-Meta视觉基础模型、DeepSeek-V3.1、Qwen-Image、Seed-OSS、CombatVLA-3D动
人工智能
范男1 小时前
基于Pytochvideo训练自己的的视频分类模型
人工智能·pytorch·python·深度学习·计算机视觉·3d·视频
二向箔reverse1 小时前
机器学习算法核心总结
人工智能·算法·机器学习
dundunmm1 小时前
【论文阅读】SIMBA: single-cell embedding along with features(2)
论文阅读·人工智能·embedding·生物信息·单细胞·多组学·细胞类型识别