技术栈
可解释性
梯度下降者
19 天前
python
·
可解释性
·
数据清洗
·
模型选择
·
业务预测
Python使用统计建模解决业务预测问题的常见操作步骤【教程】
业务预测的核心, 是把问题分解成能够进行建模的数据问题, 其关键之处在于, 数据、模型以及决策场景这三者要“匹配得上”, 需要明确地去定义预测的目标, 协同共同编写需求说明书, 紧密依据业务逻辑来清洗数据, 选择可进行解释的模型, 并且通过业务真实感的验证以及规则的兜底来保障得到落地的效果。
极客先躯
7 个月前
java
·
数据库
·
langchain
·
可解释性
·
数据来源
·
分析方式
·
风险识别
高级java每日一道面试题-2025年11月14日-行业专题[LangChain4j]-如何用 LLM 辅助信用风险评估?
传统信用风险评估主要依赖结构化定量数据(财务比率、还款记录、资产负债率等)与统计模型(如 LightGBM、逻辑回归),但大量非结构化信息——管理层讨论与分析(MD&A)、审计意见文本、新闻舆情、监管公告等——长期处于“信息盲区”。LLM 的引入使得系统能够同时处理结构化表格数据与非结构化财务文本,实现“数字+语义”双通道风险评估。
七夜zippoe
8 个月前
人工智能
·
python
·
机器学习
·
可解释性
·
概念激活
可解释AI:构建可信的机器学习系统——反事实解释与概念激活实战
随着深度学习模型在医疗诊断、金融风控、自动驾驶等高风险领域的广泛应用,模型的可解释性已成为AI落地的关键瓶颈。本文深入探讨可解释AI的核心技术,重点讲解反事实解释(Counterfactual Explanation)和概念激活向量(Concept Activation Vector)的原理与实现。通过Diabetes数据集的完整实战案例,演示如何使用SHAP、LIME、Alibi等工具进行模型可解释性评估,帮助开发者构建既准确又可信的机器学习系统。读者将掌握可解释AI的方法论体系,并能在实际项目中应用这
bryant_meng
8 个月前
人工智能
·
深度学习
·
机器学习
·
计算机视觉
·
可解释性
【AI】《Explainable Machine Learning》
封面来自于 midjourney不仅要给出正确答案,还是给出为什么“神马汉斯”(Clever Hans,又译“聪明的汉斯”)是一匹在20世纪初轰动德国的马,它的故事是心理学和科学方法论中的一个经典案例。
张彦峰ZYF
10 个月前
可解释性
·
可观测性
·
qlexpress4
·
与 ai 时代规则协同
·
升级风险与决策整合分析
沉寂与重生:QLExpress4 的诞生与升级量化
目录一、QLExpress4 的新增能力与面临痛点分析(一)主要新增能力(二)痛点分析:为什么要重构?
深度之眼
10 个月前
深度学习
·
机器学习
·
可解释性
机器学习可解释性的研究进展!
机器学习可解释性的发展已经从解释决策到理解心智,从解决信任问题到解决控制问题。根据这个趋势,本文从解释的焦点与深度入手,将机器学习可解释性的现有工作分成了四大类:局部可解释性方法、全局可解释性方法、基于规则的解释性方法、机制性解释性方法。
mubei-123
1 年前
人工智能
·
深度学习
·
可解释性
深度学习的可解释性——SketchXAI:人类草图可解释性初探
1.草图与图片和文字的对比:(1)草图与照片的不同之处在于,它可以自由操纵,而照片则很僵硬,很难操纵。这在很大程度上要归功于草图的笔划导向特性——抖动的笔划可能会返回“相同”的草图,而抖动的像素会给你一个“奇特”的图像;
Uzuki
2 年前
深度学习
·
机器学习
·
可解释性
AI可解释性 II | Saliency Maps-based 归因方法(Attribution)论文导读(持续更新)
本文作为AI可解释性系列的第二部分,旨在以汉语整理并阅读归因方法(Attribution)相关的论文,并持续更新。
Uzuki
2 年前
深度学习
·
机器学习
·
可解释性
AI可解释性 I | 对抗样本(Adversarial Sample)论文导读(持续更新)
本文作为AI可解释性系列的第一部分,旨在以汉语整理并阅读对抗攻击(Adversarial Attack)相关的论文,并持续更新。与此同时,AI可解释性系列的第二部分:归因方法(Attribution)也即将上线,敬请期待。
CM莫问
2 年前
人工智能
·
深度学习
·
神经网络
·
算法
·
可解释性
·
pinn
如何减小神经网络的“黑匣子”属性?
在学习人工智能知识的过程中,我们经常会听到有人说,神经网络就是个“黑盒”或者“黑匣子”,这是什么意思呢?实际上,神经网络的“黑匣子”属性(Black Box Property)是指神经网络作为一个整体系统在处理输入和输出时的不透明性。简单来说,就是我们并不知道给定输入之后,神经网络的输出为什么是abc而不是cba,这与决策树之类的白盒模型形成了鲜明的对比(在白盒模型中,我们能够非常准确地解释模型每一步决策的决定因素)。换句话来说,就是神经网络有着较差的可解释性,这个属性主要体现在以下几个方面:
Ai多利
2 年前
人工智能
·
可解释性
打开AI的黑盒子——机器学习可解释性!
现在以深度学习为主的方法在各个领域都已经next level了,但是如何解释我们的模型仍然是个难题。为什么得到这样的结果往往和结果本身一样重要。因此,个人觉得Explainable AI (XAI)依然会是近些年来一个很热门的方向。
Ultipa
2 年前
人工智能
·
科技
·
数据安全
·
可解释性
我也谈AI
看到平台的这条征文,觉得挺有意思,小写几笔。AI带给人类向好的方面就不多说了,大家肉眼可见的已经看到它给大家生活和工作等等方面带来的变化。但是面临的挑战和解决方案才是其在未来发展中要弥补上的短板。
新手小白勇闯新世界
2 年前
人工智能
·
机器学习
·
可解释性
机器学习可解释性
机器学习的稳健性、可解释性和结果正确性等是人工智能安全可信应用必须解决的关键问题。可学习理论是机器学习可信性的基础:为机器学习框架与模型是否可信提供看可解释性理论
没有人比我更懂暴力算法
3 年前
人工智能
·
python
·
机器学习
·
可解释性
·
解释器
·
可解释模型
6个机器学习可解释性框架
SHapley Additive explanation (SHAP)是一种解释任何机器学习模型输出的博弈论方法。它利用博弈论中的经典Shapley值及其相关扩展将最优信贷分配与局部解释联系起来.
喝过期的拉菲
3 年前
笔记
·
深度学习
·
可解释性
Understanding Black-box Predictions via Influence Functions阅读笔记
通过告诉我们对一个给定的预测“负责”的训练点,影响函数揭示了关于模型如何依赖训练数据和从训练数据中推断的见解。在本节中,我们将展示两个模型可以做出相同的正确预测,但以完全不同的方式实现。
喝过期的拉菲
3 年前
论文阅读
·
深度学习
·
可解释性
Network Dissection 论文阅读笔记
这是CVPR2017一篇有关深度学习可解释性研究的文章,作者通过评估单个隐藏神经元(unit)与一系列语义概念(concept)间的对应关系,来量化 CNN 隐藏表征的可解释性。
我是有底线的