机器学习笔记:focal loss

1 介绍

  • Focal Loss 是一种在类别不平衡的情况下改善模型性能的损失函数

  • 最初在 2017 年的论文《Focal Loss for Dense Object Detection》中提出

  • 这种损失函数主要用于解决在有挑战性的对象检测任务中,易分类的负样本占据主导地位的问题,从而导致模型难以学习到难分类样本的特征

  • Focal Loss 修改了标准的交叉熵损失函数,通过减少易分类样本的相对损失来增加对难分类样本的关注

    • 其基本形式为如下FL的部分
  • γ 是调节因子,用于控制易分类样本对损失的贡献减小的速率。
  • 通过引入,Focal Loss 能够降低那些已经被正确分类的样本(pt 较高)的损失贡献,使得模型更加关注那些难以正确分类的样本。
相关推荐
AOI小白新手上路5 分钟前
4-1_地址空间_RISC与CISC_学习笔记
笔记·学习
probex_20 分钟前
学习笔记:知识图谱落地实践
笔记·学习·知识图谱
技术狂人16839 分钟前
WAM-Trainer世界动作模型训练实战:IDM/FDM模块化架构与DeepSpeed ZeRO-2多卡训练
pytorch·具身智能·deepspeed·世界动作模型·idm逆动力学
摇滚侠1 小时前
《Spring Boot 3:高级与架构设计》第 2 章 IOC 容器的高级机制 编程式驱动 IOC 阅读笔记 7
java·spring boot·笔记
带金箍的至尊宝1 小时前
系统架构设计师笔记 03:CPU 结构、Cache 与总线怎么考
笔记·系统架构
奕鼎竜瑆1 小时前
[新手小白也能学会] 01-PyTorch框架使用(上)
人工智能·pytorch·python
2401_850122041 小时前
高温耐油热缩套管选型:材料、温度和油液要匹配
经验分享·笔记·科技·学习
FPGA信号处理2 小时前
《随机信号分析与处理》第1章 随机变量基础:习题解答
人工智能·机器学习·概率论
YOLO数据集集合2 小时前
机器学习二分类预测算法组合工具:12种算法、113种组合的批量建模方案8031期
算法·机器学习
Xudde.2 小时前
Me and My Girlfriend 靶机渗透测试(Vulnhub Writeup)
笔记·学习·安全·web安全