神经网络的可解释性理论及工具

1.可解释性分析简介

explainable AI:why,利用决策树

eg:

interpretable AI:how

2.机器学习的可解释性

解释工具:

按输入对输出的贡献值。

然后把值sigmoid成0-1.

例子:

就是去计算,有你和没你,能有多大区S别。

SHAP包 去搜一下用

单个样本的

全部样本的

3.图像识别的可解释性

相关推荐
ZGIAI3 分钟前
ZGI Skill Loop:给工具调用设边界
人工智能·架构
黎阳之光5 分钟前
打破堆场感知黑盒:黎阳之光视频孪生,构建港口码头网格化透明管控新体系
大数据·人工智能·算法·安全·数字孪生
ZGIAI12 分钟前
ZGI 工作区权限:用户为何看不到资源
人工智能·架构
FlagOS智算系统软件栈14 分钟前
Qwen3.8-Flash-Next发布首日适配 8 款AI芯片,众智FlagOS跑通并优化新一代混合注意力架构
人工智能·架构
武汉星际互动16 分钟前
政务大厅转型“城市客厅”,集约化建设与线上线下一体化如何落地?
人工智能·政务
码视野30 分钟前
基于 Spring Boot + Vue3 的【大学英语四六级 (CET-4/6) 作文智能评分与句式润色系统】设计与实现(含PRD/三端高保真源码/大屏)
java·前端·人工智能·spring boot·后端·vue3
Hrain-AI31 分钟前
Qwen4 架构预览解读:GDN+QSA 混合注意力如何把激活参数压到 6B
人工智能·架构·开源
大模型码小白36 分钟前
AI 对话流性能调优:万级消息的虚拟滚动落地
java·大数据·前端·javascript·人工智能·算法·机器学习
Mickey Q1 小时前
深度学习经典网络架构
人工智能·深度学习
天国梦1 小时前
读后续写批改难题怎么破?天学网AI批改工具实测解析
人工智能