神经网络的可解释性理论及工具

1.可解释性分析简介

explainable AI:why,利用决策树

eg:

interpretable AI:how

2.机器学习的可解释性

解释工具:

按输入对输出的贡献值。

然后把值sigmoid成0-1.

例子:

就是去计算,有你和没你,能有多大区S别。

SHAP包 去搜一下用

单个样本的

全部样本的

3.图像识别的可解释性

相关推荐
yyf198905253 分钟前
智能体的中文文献
人工智能
小北方城市网3 分钟前
第 9 课:Python 全栈项目性能优化实战|从「能用」到「好用」(企业级优化方案|零基础落地)
开发语言·数据库·人工智能·python·性能优化·数据库架构
却道天凉_好个秋6 分钟前
OpenCV(五十二):图像修复
人工智能·opencv·计算机视觉
明月照山海-6 分钟前
机器学习周报二十九
机器学习
Deepoch11 分钟前
破解酒店服务难题:Deepoc赋能机器人智能升级
人工智能·机器人·开发板·具身模型·deepoc·酒店机器人
间彧14 分钟前
Vibe Coding在实际项目中如何与现有开发流程(如敏捷开发、CI/CD)结合?
人工智能
JSU_曾是此间年少17 分钟前
pytorch自动微分机制探寻
人工智能·pytorch·python
Hcoco_me18 分钟前
大模型面试题40:结合RoPE位置编码、优秀位置编码的核心特性
人工智能·深度学习·lstm·transformer·word2vec
刘立军24 分钟前
程序员应该熟悉的概念(8)嵌入和语义检索
人工智能·算法
Mr.Lee jack25 分钟前
TileRT超低延迟的大语言模型推理系统
人工智能·pytorch·deepseek