机器学习笔记:focal loss

1 介绍

  • Focal Loss 是一种在类别不平衡的情况下改善模型性能的损失函数

  • 最初在 2017 年的论文《Focal Loss for Dense Object Detection》中提出

  • 这种损失函数主要用于解决在有挑战性的对象检测任务中,易分类的负样本占据主导地位的问题,从而导致模型难以学习到难分类样本的特征

  • Focal Loss 修改了标准的交叉熵损失函数,通过减少易分类样本的相对损失来增加对难分类样本的关注

    • 其基本形式为如下FL的部分
  • γ 是调节因子,用于控制易分类样本对损失的贡献减小的速率。
  • 通过引入,Focal Loss 能够降低那些已经被正确分类的样本(pt 较高)的损失贡献,使得模型更加关注那些难以正确分类的样本。
相关推荐
高洁0132 分钟前
AIGC技术与进展(1)
深度学习·算法·机器学习·transformer·知识图谱
中屹指纹浏览器38 分钟前
指纹浏览器底层沙箱隔离技术实现原理与架构优化
经验分享·笔记
算法狗241 分钟前
大模型面试题:有以下哪些方式可以在 prompt 中插入指令?
人工智能·深度学习·机器学习·语言模型·面试题
嘉嘉嘉7172 小时前
【day 52】神经网络调参指南
python·深度学习·机器学习
小裕哥略帅2 小时前
PMP知识--五大过程组
笔记·学习
Aliex_git2 小时前
提示词工程学习笔记
人工智能·笔记·学习
0和1的舞者2 小时前
力扣hot100-链表专题-刷题笔记(二)
笔记·算法·leetcode·链表·职场和发展
gihigo19983 小时前
竞争性自适应重加权算法
人工智能·算法·机器学习
航Hang*3 小时前
Photoshop 图形与图像处理技术——第9章:实践训练6——滤镜特效
图像处理·笔记·学习·ui·photoshop
renhongxia13 小时前
大型语言模型性能预测器:学习何时在混合人机-人工智能管理系统中升级
人工智能·深度学习·学习·机器学习·语言模型·自然语言处理