神经网络的可解释性理论及工具

1.可解释性分析简介

explainable AI:why,利用决策树

eg:

interpretable AI:how

2.机器学习的可解释性

解释工具:

按输入对输出的贡献值。

然后把值sigmoid成0-1.

例子:

就是去计算,有你和没你,能有多大区S别。

SHAP包 去搜一下用

单个样本的

全部样本的

3.图像识别的可解释性

相关推荐
yuan1999715 小时前
MATLAB 多窗谱谱减法语音去噪
人工智能·matlab·语音识别
不才小强15 小时前
目标跟踪算法DeepSort实战
人工智能·算法·目标跟踪
今日说"法"15 小时前
线性代数与矩阵运算:AI世界的数学基石——从SVD到特征值分解的实战解析
人工智能·线性代数·矩阵
Mr数据杨15 小时前
结构化表格分类建模与业务预测落地路径
人工智能·机器学习·分类·数据挖掘·数据分析·kaggle
敢敢のwings15 小时前
智元 D1 强化学习sim-to-real系列 | 从控制接入到真机落地上篇(七)
人工智能
缘友一世15 小时前
Harness Engineering:让 AI Agent 从“玩具“到“生产力“的工程革命
人工智能·chatgpt·llm·agent
查古穆15 小时前
AI Agent 开发的工业化道路:Harness 架构深度解析
大数据·人工智能
ComputerInBook15 小时前
数字图像处理(4版)——第 4 章——频域滤波(下)(Rafael C.Gonzalez&Richard E. Woods)
人工智能·算法·计算机视觉·频域滤波
爱看科技15 小时前
微美全息(NASDAQ: WIMI)攻克量子参数化电路深度卷积神经网络技术难关!
人工智能·cnn·量子计算
做个文艺程序员15 小时前
多轮对话与会话管理:构建上下文感知的 AI 接口【OpenClAW + Spring Boot 系列 第4篇】
人工智能·spring boot·开源