机器学习笔记:focal loss

1 介绍

  • Focal Loss 是一种在类别不平衡的情况下改善模型性能的损失函数

  • 最初在 2017 年的论文《Focal Loss for Dense Object Detection》中提出

  • 这种损失函数主要用于解决在有挑战性的对象检测任务中,易分类的负样本占据主导地位的问题,从而导致模型难以学习到难分类样本的特征

  • Focal Loss 修改了标准的交叉熵损失函数,通过减少易分类样本的相对损失来增加对难分类样本的关注

    • 其基本形式为如下FL的部分
  • γ 是调节因子,用于控制易分类样本对损失的贡献减小的速率。
  • 通过引入,Focal Loss 能够降低那些已经被正确分类的样本(pt 较高)的损失贡献,使得模型更加关注那些难以正确分类的样本。
相关推荐
zjeweler2 小时前
“网安+护网”终极300多问题面试笔记-3共3-综合题型(最多)
笔记·网络安全·面试·职场和发展·护网行动
m0_488913013 小时前
万字长文带你梳理Llama开源家族:从Llama-1到Llama-3,看这一篇就够了!
人工智能·学习·机器学习·大模型·产品经理·llama·uml
哥布林学者4 小时前
深度学习进阶(八)Swin Transformer
机器学习·ai
YoseZang4 小时前
【机器学习】【手工】Streaming Machine Learning 流数据学习 – 应对变化的机器学习方法(一)
人工智能·学习·机器学习
henrylin99997 小时前
Hermes Agent 核心运行系统调用流程--源码分析
开发语言·人工智能·python·机器学习·hermesagent
泰恒7 小时前
国内外大模型的区别与差距
人工智能·深度学习·yolo·机器学习·计算机视觉
zs宝来了7 小时前
LangChain RAG 架构:向量检索与生成流水线
机器学习·ai·基础设施
沅_Yuan8 小时前
基于LSTM神经网络的锂电池SOH估算模型(NASA数据集)【MATLAB】
神经网络·机器学习·matlab·锂电池·nasa·soh
Elaine3368 小时前
【软件测试系统学习笔记:从理论基础到接口实战】
软件测试·笔记·学习·接口测试
xuhaoyu_cpp_java8 小时前
Maven学习(二)
java·经验分享·笔记·学习·maven