贝叶斯神经网络 - 捕捉现实世界的不确定性

贝叶斯神经网络 - 捕捉现实世界的不确定性 Bayesian Neural Networks 生活本质上是不确定性和概率性的,贝叶斯神经网络 (BNN) 旨在捕获和量化这种不确定性

在许多现实世界的应用中,仅仅做出预测是不够的;您还想知道您对该预测的信心有多大。例如,在医疗保健领域,如果模型表示患者有 70% 的机会患上某种特定疾病,那么其信息量就低于表示患者有 70% 的机会但误差范围为 ±10% 的模型。

BNN 不太容易过度拟合,可以提高数据效率,因为它们可以合并先验,并且可以输出每个预测的概率分布。了解特定预测准确的不确定性或概率可以建立业务用户的信任和信心。

那么贝叶斯网络是如何工作的呢? 核心思想是用概率分布 P (w) 代替标准神经网络中的固定权重 w

贝叶斯著名的方程是:

P (A| B)= P (B|A) P (A) / P(B)

在 BNN 的背景下:

A 是模型参数(权重和偏差)。 B 是观测数据。 P (A ∣B)是给定数据的参数的后验分布。 P (B ∣ A) 是给定参数的数据的可能性。 P (A) 是参数的先验分布。 P (B)是证据,通常被认为是归一化常数。

先验分布 - 您从权重的先验分布 P (w) 开始。这代表您在看到任何数据之前对模型参数的最初信念。

后验分布 - 目标是计算后验分布 P (w ∣D) ,它表示观察数据 D 后关于权重的更新信念。贝叶斯定理以及一些近似方法用于计算该分布。

预测 - 最后,为了对新输入 x 进行预测,您可以对所有可能的权重进行平均,并按后验概率进行加权:

P (y ∣ x, D)=∫ P (y ∣ x,w)×P (w ∣D) dw

这不仅为您提供了点估计,还为您提供了可能输出 y 的分布,从而捕获了模型的不确定性。

例如:BNN 可以应用于 MRI 扫描数据集,其中每次扫描都标记为"癌症"或"无癌症"。目标是建立一个模型,可以预测新的、未标记的 MRI 扫描的这些标签。 BNN 可以说,"我 80% 确定这是癌症,但有 20% 的可能性不是",这对临床医生来说是很有价值的信息。

当不确定性量化很重要时,BNN 非常有用,包括疾病诊断、风险评估、能源预测和实时决策

本文由mdnice多平台发布

相关推荐
刘白Live4 分钟前
【Java】为什么有时候执行countDownLatch+线程池查询列表会丢失数据?
java·后端
梁凌锐41 分钟前
重构手法——代码健壮性增强类 | 防御性编程 | 引入特殊情况类
后端
蒋蜀黍1 小时前
Go + open ai 实现一个 mini manus
后端
及丫丫1 小时前
SpringBoot集成MQTT客户端
后端
用户28988180666421 小时前
Sarama消费组初始化阻塞问题排查
后端·go
Java中文社群1 小时前
超实用!手把手教你Dify版本升级
人工智能·后端
大码猴1 小时前
是时候该用自动化工具玩玩12306了
前端·javascript·后端
Java水解1 小时前
MySQL如何开启远程访问权限
后端·mysql
随缘而动,随遇而安1 小时前
第七十七篇 数据结构基石:数组——数字世界与生活智慧的无声交响曲
大数据·数据结构·后端
程序员小奕2 小时前
Springboot 高校报修与互助平台小程序
spring boot·后端·小程序