可解释性机器学习的目标

为了解释比如决策树、随机森林的意义,我们首先应该定义可解释性的目标是什么。或者 说什么才是最好的可解释性的结果呢?很多人对于可解释性机器学习会有一个误解,觉得一 个好的可解释性就是要告诉我们整个模型在做什么事。我们要了解模型的一切,我们要知道 它到底是怎么做出一个决断的。但是这件事情真的是有必要的吗?虽然我们说机器学习模型, 深度网络是一个黑盒子,不能相信它,但世界上有很多黑盒子,比如人脑也是黑盒子。我们其 实也并不完全知道,人脑的运作原理,但是我们可以相信,另外一个人做出的决断。那为什么 深度网络是一个黑盒子,我们就没有办法相信其做出的决断呢?我们可以相信人脑做出的决 断,但是我们不可以相信深度网络做出的决断,这是为什么呢?

以下是一个和机器学习完全无关的心理学实验,这个实验是1970年一个哈佛大学教授做 的。这个实验是这样,在哈佛大学图书馆的打印机经常会有很多人都排队要印东西,这个时候 如果有一个人跟他前面的人说拜托请让我先印5页,这个时候你觉得这个人会答应吗?据统 计有60%的人会让他先印。但这个时候你只要把刚才问话的方法稍微改一下,你说拜托请让 我先印,因为我赶时间,他是不是真的赶时间没人知道,但是当你说你有一个理由所以你要先 印的时候,这个时候接受的程度变成94%。神奇的事情是,就算你的理由稍微改一下,比如 说请让我先印因为我需要先印,仅仅是这个样子接受的程度也变成93%。所以人就是需要一 个理由,你为什么要先印,你只要讲出一个理由,就算你的理由是因为我需要先印大家也会接 受。

所以会不会可解释性机器学习也是同样的道理。在可解释性机器学习中,好的解释就是 人能接受的解释,人就是需要一个理由让我们觉得高兴。因为很多人听到,深度网络是一个黑 盒子他就不爽,但是你告诉他说这个是可以被解释的,给他一个理由,他就高兴了。所以或许 好的解释就是让人高兴的解释。其实这个想法,这个技术的进展是蛮接近的。

相关推荐
芯盾时代1 小时前
安全大模型智驱网络和数据安全效能跃迁
网络·人工智能·安全·网络安全
彩讯股份3006341 小时前
打造多模态交互新范式|彩讯股份中标2025年中国移动和留言平台AI智能体研发项目
人工智能
思通数科大数据舆情2 小时前
工业安全零事故的智能守护者:一体化AI智能安防平台
人工智能·安全·目标检测·计算机视觉·目标跟踪·数据挖掘·知识图谱
AI360labs_atyun2 小时前
2025 高考:AI 都在哪些地方发挥了作用
人工智能·科技·ai·高考
Yxh181377845544 小时前
短视频矩阵系统技术saas源头6年开发构架
人工智能·矩阵
m0_634448894 小时前
图上合成:用于大型语言模型持续预训练的知识合成数据生成
人工智能·语言模型·自然语言处理
Studying 开龙wu4 小时前
机器学习监督学习实战五:六种算法对声呐回波信号进行分类
学习·算法·机器学习
张较瘦_5 小时前
[论文阅读] 人工智能 | 利用负信号蒸馏:用REDI框架提升LLM推理能力
论文阅读·人工智能
1296004525 小时前
机器学习的可解释性
人工智能·深度学习·自然语言处理·transformer
何中应5 小时前
第一个人工智能(AI)问答Demo
java·人工智能·语言模型