神经网络的可解释性理论及工具

1.可解释性分析简介

explainable AI:why,利用决策树

eg:

interpretable AI:how

2.机器学习的可解释性

解释工具:

按输入对输出的贡献值。

然后把值sigmoid成0-1.

例子:

就是去计算,有你和没你,能有多大区S别。

SHAP包 去搜一下用

单个样本的

全部样本的

3.图像识别的可解释性

相关推荐
MyBFuture16 分钟前
Halcon 金字塔与边缘检测技术解析
人工智能·计算机视觉·halcon
树獭非懒16 分钟前
AI大模型小白手册 | RAG进阶:从胡说八道到引经据典
人工智能
攻城狮7号40 分钟前
SaaS的末日重构:AI Agent浪潮下的危机与新生
人工智能·ai agent·saas末日·saas升级重构
2601_9499251840 分钟前
空运舱位突发爆舱?解析 AI Agent 如何在 2 小时内重构物流应急响应底层逻辑
人工智能·重构·物流rpa
FluxMelodySun1 小时前
机器学习(二十八) 特征选择与常见的特征选择方法
人工智能·机器学习
小陈工1 小时前
2026年3月31日技术资讯洞察:AI智能体安全、异步编程突破与Python运行时演进
开发语言·jvm·数据库·人工智能·python·安全·oracle
香港科大商学院内地办事处1 小时前
港科资讯|郑光廷教授出席国际科技组织发展与全球科技治理论坛 分享协作实践
人工智能·科技
Westward-sun.1 小时前
基于 OpenCV DNN 模块实现图像风格迁移
人工智能·神经网络·opencv·计算机视觉·dnn
AI枫林晚1 小时前
源码解析Claude Code 项目 queryLoop 运行机制分析
人工智能·架构
AI攻城狮1 小时前
OpenClaw Exec Approvals 机制:在安全与效率之间寻找平衡
人工智能·云原生·aigc