机器学习笔记:focal loss

1 介绍

  • Focal Loss 是一种在类别不平衡的情况下改善模型性能的损失函数

  • 最初在 2017 年的论文《Focal Loss for Dense Object Detection》中提出

  • 这种损失函数主要用于解决在有挑战性的对象检测任务中,易分类的负样本占据主导地位的问题,从而导致模型难以学习到难分类样本的特征

  • Focal Loss 修改了标准的交叉熵损失函数,通过减少易分类样本的相对损失来增加对难分类样本的关注

    • 其基本形式为如下FL的部分
  • γ 是调节因子,用于控制易分类样本对损失的贡献减小的速率。
  • 通过引入,Focal Loss 能够降低那些已经被正确分类的样本(pt 较高)的损失贡献,使得模型更加关注那些难以正确分类的样本。
相关推荐
补三补四1 分钟前
k近邻算法K-Nearest Neighbors(KNN)
人工智能·机器学习
databook1 小时前
线性判别分析(LDA):降维与分类的完美结合
python·机器学习·scikit-learn
硅谷秋水1 小时前
大语言模型智体的综述:方法论、应用和挑战(下)
人工智能·深度学习·机器学习·语言模型·自然语言处理
cwtlw2 小时前
JavaRedis和数据库相关面试题
java·数据库·笔记·面试
项目申报小狂人2 小时前
CUDA详细安装及环境配置——环境配置指南 – CUDA+cuDNN+PyTorch 安装
人工智能·pytorch·python
林泽毅2 小时前
SwanLab Slack通知插件:让AI训练状态同步更及时
深度学习·机器学习·强化学习
DayDayUp..2 小时前
[算法学习笔记] 《Hello算法》第10章 搜索
笔记·学习
Niuguangshuo2 小时前
Pytorch 张量操作
pytorch·张量
Long_poem2 小时前
【自学笔记】ELK基础知识点总览-持续更新
笔记·elk·jenkins