Focal Loss损失函数理解

简介:Focal Loss损失函数是对交叉熵损失函数的升级。是和yolo配套的

因为yolo会对图像进行网格化处理,会分出正负样本,是多目标检测,而不是简单的分类问题

1. 对比交叉熵损失的区别

多分类:CrossEntropyLoss 公式:

多目标:Focal Loss 公式:

总结多了两个系数,alpha和(1-pt)^gama

2. 分析参数alpha

个人理解:alpha是用来控制正负样本数差别太大的。负样本因为数量往往太多,而使用较小的alpha如0.25来乘以损失值,正样本因为数量往往太少,而使用较大的alpha如0.75来乘以损失值。

官方解释:

  • 类别平衡因子 α\alphaα 的主要作用是直接增加正样本(目标区域)的损失权重,减少负样本(背景区域)对总损失的贡献。
  • 当负样本远多于正样本时, α\alphaα 通常设置为正样本的权重较高(如 αpos=0.75\alpha_{\text{pos}} = 0.75αpos=0.75, αneg=0.25\alpha_{\text{neg}} = 0.25αneg=0.25)。这种方式在总损失中人为地降低了背景区域的占比

3. 分析参数(1-pt)^gama

个人理解:这个参数是站在正样本的基础上来控制损失的。对于小目标,难分辨的目标,因为往往这类目标的预测概率值(分数)很小,引入(1-pt)^gama,当小目标预测分数很小趋近0时,1-pt则会趋近1,所以就会让这类小目标的损失不变。但是容易区分的目标预测分数高,1-pt会趋近0,则会显著降低容易区分目标的损失。整体来说,就会让模型关注到这类小目标区域取降低其损失

官方解释:

4.如何减少背景区域的影响?

这两部分共同作用:

  1. 动态调整因子(1 - p_t)^gamma:

    • 对背景区域(负样本)的预测 pt 通常接近 1, (1 - p_t)^gamma 会使这些样本的损失趋近于 0,从而减少它们的影响。
    • 对于目标区域(正样本),由于 pt 较低, (1 - p_t)^gamma的值更大,使得模型更加关注这些区域。
  2. 类别平衡因子 α:

    • 人为调高目标区域的损失占比,进一步减少背景区域对总损失的贡献。

个人理解:

对于背景区域(负样本),模型认为负样本中为背景的概率趋近于1,1-pt则趋近于0,则降低了负样本的损失,让模型对负样本的学习减少。对于目标区域,模型认为负样本中为目标的概率趋近于0,1-pt则趋近于1,保持了目标区域的损失,让模型更关注目标区域的学习。

1-pt有两个作用:1. 对于负样本的训练,降低负样本的损失,减少负样本对模型的影响 2.对于正样本的训练,增加了正样本中小目标的损失,让模型更关注小目标的训练

alpha的作用只有一个,降低负样本的损失,增加正样本的损失。达到模型跟关注正样本的趋势,平衡掉负样本数量远大于正样本的影响

相关推荐
喵本喵叁肆9 分钟前
用 Boosting 把弱隐私算法炼成强隐私算法(英文原题:Boosting and Differential Privacy (FOCS 2010))
算法·集成学习·boosting
武天旭16 分钟前
AI安全--AI大模型的数据投毒攻击解析
人工智能·深度学习·安全
AI技术新视界17 分钟前
LLM 提示词缓存(Prompt Caching)的秘密
人工智能·缓存·llm·prompt
火山引擎开发者社区29 分钟前
从企业开发者到 Agent 先锋,火山引擎 Agent 先锋计划邀你进击!
人工智能
这张生成的图像能检测吗42 分钟前
(论文速读)Ponder:通过神经渲染进行点云预训练
人工智能·深度学习·机器学习·点云·3d技术·神经渲染
johnsong1 小时前
AI前沿日报 · 2026-11-05:暗网与裂痕
人工智能
张彦峰ZYF1 小时前
升级了不等于变好了:AI回归测试的固定评测集、版本对比、质量阈值与CI门禁
人工智能·后端·模型或提示词升级·语言模型没有编译器与确定性输出·总体、切片与回退清单·红线、护栏与目标·ci门禁把判定写进合并路径
青梅味猪大肠1 小时前
【操作系统-60】临近适应算法
java·linux·开发语言·嵌入式硬件·算法·操作系统
迪康coolmu1 小时前
企业U盘管控落地实战:基于迪康端点安全一体化管理系统的移动存储安全实践
运维·人工智能·经验分享·笔记·安全·电脑
GitCode官方1 小时前
活动预告 | 模力无限 × AtomGit珠海首场 AI Meetup,来了
人工智能·atomgit