机器学习笔记:focal loss

1 介绍

  • Focal Loss 是一种在类别不平衡的情况下改善模型性能的损失函数

  • 最初在 2017 年的论文《Focal Loss for Dense Object Detection》中提出

  • 这种损失函数主要用于解决在有挑战性的对象检测任务中,易分类的负样本占据主导地位的问题,从而导致模型难以学习到难分类样本的特征

  • Focal Loss 修改了标准的交叉熵损失函数,通过减少易分类样本的相对损失来增加对难分类样本的关注

    • 其基本形式为如下FL的部分
  • γ 是调节因子,用于控制易分类样本对损失的贡献减小的速率。
  • 通过引入,Focal Loss 能够降低那些已经被正确分类的样本(pt 较高)的损失贡献,使得模型更加关注那些难以正确分类的样本。
相关推荐
2601_967980111 小时前
Hugging Face:成为机器学习界的“Github”
机器学习·hugging face·开源平台·开放科学·transformer模型
小白菜002 小时前
AI的理解
人工智能·机器学习
DFT计算杂谈3 小时前
可DIY布里渊区图像绘制编辑器
人工智能·机器学习·语言模型·矩阵·编辑器
一壶浊酒伴余生7 小时前
新概念英语第一册 · 句法笔记
笔记·英语学习·英语语法·新概念英语
aifannihao9 小时前
AI 学习第 8 课:1200 列纯噪声 CV 出 0.47,泄漏在筛特征那步
人工智能·机器学习·scikit-learn·学习路线·数据泄漏
Rocky Ding*10 小时前
REPA-E技术深度解析:解冻 VAE 之后,扩散模型为什么需要选择梯度
论文阅读·人工智能·深度学习·机器学习·aigc·ai-native·repa-e
蒸蒸yyyyzwd10 小时前
后端学习笔记 day111
笔记·学习
叼烟扛炮11 小时前
[LangChain] 学习笔记(08):工具调用底层闭环与第三方搜索(Tavily)实战
人工智能·笔记·学习·langchain
江屿风12 小时前
【Git-组件】【Git入门:从文档灾难到版本掌控】流食般投喂
运维·笔记·git·组件·版本控制